앤스로픽 AI 개발 속도, 1년 전보다 2배 빨라졌다는 독립 분석

앤스로픽이 AI 시스템을 개선하는 속도가 1년 전보다 대략 두 배 빨라졌습니다. 목요일에 공개된 독립 분석의 결론입니다. 회사 CEO가 업계에 속도를 늦추자고 요청해 온 터라 다소 어색한 타이밍입니다.

무슨 일이 있었나?

앤스로픽은 캘리포니아 버클리에 있는 비영리 단체 모델 평가·위협 연구소(METR)를 초청해 내부 데이터를 살펴보고 직원들을 인터뷰하게 했습니다. 검토 기간은 8월 중순부터 10월 말까지 약 11주였습니다.

METR는 앤스로픽이 "명확하게 정의된 작업"을 처리하는 모델의 능력을 1년 전보다 약 두 배 빠르게 끌어올리고 있다고 추정합니다. 보고서에 따르면 지난 1년간 벤치마크에서 이룬 진전이, 2023년 10월부터 2025년 10월까지 2년간의 진전과 맞먹습니다.

METR는 컴퓨팅 파워 증가가 원인이 아니라는 점은 "확신을 갖고" 배제할 수 있다고 말합니다. 가장 유력한 추정은 AI 자체가 더 나은 AI를 만드는 데 도움을 주고 있다는 것입니다. 앤스로픽도 자사 챗봇 클로드가 차세대 버전 개발을 점점 더 많이 돕고 있다고 밝힌 바 있습니다.

왜 화제일까?

AI 위험에 대해 우리가 아는 내용은 대부분 AI를 만드는 기업에서 나옵니다. 트럼프 행정부가 안전 문제는 기업이 스스로 관리하도록 장려해 온 만큼, 이런 외부 접근은 드뭅니다.

METR는 "전례 없는 접근 권한"을 얻었다고 말합니다. 또 8월에 나온 앤스로픽의 공개 위험 보고서가 당시 진행되던 가속의 정도를 "전반적으로 과소평가했다"고 지적합니다.

연구진은 컴퓨팅 파워나 데이터 한계처럼 진전을 가로막는 "병목"을 찾지 못했습니다. 우려하는 것은 AI가 AI를 개선하면서 가속이 복리로 불어날 수 있다는 점입니다. 아직은 AI가 학습의 가장 중요한 부분에서 완전히 자율적으로 기여하지는 못하지만, 앤스로픽 연구자들은 곧 가능해질 수 있다는 "생명의 징후"를 설명했다고 합니다.

단서도 있습니다. 가속이 평가하기 쉬운 작업에만 해당하고 "복잡하고 애매한" 작업에는 적용되지 않을 수 있습니다. 또 앤스로픽의 이전 진전이 과소평가됐다면 새 수치가 더 커 보일 수 있습니다. 앤스로픽이 일부 내용을 가린 탓에 METR가 말할 수 있는 범위도 제한됐습니다.

앞으로는?

공동 창업자 샘 맥캔들리시는 X에서 METR의 결론 상당수가 자신의 생각과 일치한다고 밝혔습니다. 그는 "AI가 우리 연구를 가속하고 있지만, 정확히 얼마나인지는 말하기 어렵다"고 썼습니다. 앤스로픽은 앞으로 몇 주 안에 자체 분석을 공개할 계획입니다.

그는 일부 내용을 가린 것을 옹호하며, 가속의 원동력에 관한 세부 사항은 "상업적으로 민감하고" 다른 곳에 "로드맵"을 넘겨줄 수 있다고 말했습니다. 회사는 이를 절충의 문제라고 설명합니다.

참고로 다리오 아모데이 CEO는 9월 12일 에세이에서 업계가 "AI 모델의 역량을 높이는 속도를 늦춰야 한다"고 썼습니다. 앤스로픽은 이달 말 상장도 계획하고 있으며, 역대 최대 규모의 IPO가 될 수 있습니다.