ИИ Anthropic развивается вдвое быстрее, чем год назад, говорит METR

Anthropic улучшает свои ИИ-системы примерно вдвое быстрее, чем год назад. К такому выводу пришёл независимый анализ, опубликованный в четверг. Выглядит это неловко: гендиректор самой компании призывает отрасль замедлиться.

Что произошло?

Anthropic пригласила Model Evaluation and Threat Research (METR), некоммерческую организацию из Беркли в Калифорнии, чтобы та изучила внутренние данные компании и пообщалась с сотрудниками. Проверка охватила около 11 недель, с середины августа до конца октября.

По оценке METR, Anthropic улучшает способность своих моделей решать «чётко поставленные задачи» примерно вдвое быстрее, чем годом ранее. В отчёте сказано, что за последний год компания продвинулась в бенчмарках настолько же, насколько за период с октября 2023 по октябрь 2025 года.

Группа говорит, что может «уверенно» исключить рост вычислительных мощностей как причину. Её главная версия: сам ИИ помогает создавать более сильный ИИ. Anthropic сообщала, что её чат-бот Claude всё чаще помогает разрабатывать собственные новые версии.

Почему об этом все говорят?

Большая часть того, что мы знаем о рисках ИИ, исходит от компаний, которые его создают. Администрация Трампа поощряла их самим следить за безопасностью, поэтому внешний доступ вроде этого — редкость.

METR говорит, что получила «беспрецедентный доступ». Организация также заявляет, что августовский публичный отчёт Anthropic о рисках «в целом преуменьшает уровень ускорения», которое уже происходило.

Исследователи не нашли «узких мест», таких как нехватка вычислительных мощностей или данных, которые сдерживали бы прогресс. Они опасаются, что ИИ, улучшающий ИИ, может сделать ускорение накопительным. Они добавляют, что ИИ пока не может полностью самостоятельно вносить вклад в самые важные части обучения, хотя исследователи Anthropic описали «признаки жизни» — возможно, скоро сможет.

Есть оговорки. Ускорение может касаться только задач, которые легко оценить, а не «размытых». Кроме того, прежний прогресс Anthropic мог быть недооценён, из-за чего новая цифра выглядит больше. А купюры, которые сделала Anthropic, ограничили то, о чём METR могла говорить.

Что дальше?

Сооснователь Сэм Маккэндлиш написал в X, что многие выводы METR совпадают с его собственными. «ИИ ускоряет наши исследования, но сложно сказать, насколько именно», — написал он. Anthropic планирует опубликовать собственный анализ в ближайшие недели.

Он защитил купюры, сказав, что детали того, что запускает ускорение, «коммерчески чувствительны» и могут дать другим «дорожную карту». Компания называет это компромиссом.

Для контекста: гендиректор Дарио Амодеи написал в эссе от 12 сентября, что отрасли стоит «замедлить темп, с которым мы улучшаем возможности ИИ-моделей». Кроме того, Anthropic планирует выйти на биржу в этом месяце — это может стать крупнейшим IPO в истории.