AnthropicのAI開発、1年前の約2倍の速さに 独立機関METRが分析

Anthropicは、AIシステムを1年前の約2倍の速さで改良している。木曜日に公表された独立の分析でわかった。同社のCEO自身が業界に減速を求めているだけに、なんとも気まずいタイミングだ。

何があったの?

Anthropicは、カリフォルニア州バークレーの非営利団体Model Evaluation and Threat Research(METR)を招き、社内データの確認と社員への聞き取りを依頼した。調査期間は8月中旬から10月下旬までの約11週間だ。

METRの推定では、Anthropicは「明確に定義されたタスク」をこなすモデルの能力を、1年前の約2倍の速さで高めている。報告書によると、同社は過去1年間のベンチマークの伸びが、2023年10月から2025年10月までの2年分に匹敵するという。

METRは、計算能力の増強が理由ではないと「確信を持って」除外できるとしている。最も有力な見立ては、AI自身がより良いAIの開発を助けている、というものだ。Anthropicは、チャットボットのClaudeが自らの新バージョンの開発をますます手伝っていると説明してきた。

なぜ話題に?

AIのリスクについて私たちが知っていることの大半は、AIを作っている企業から出てきたものだ。トランプ政権は安全性について企業の自主規制を促してきたため、こうした外部の調査は珍しい。

METRは「前例のないアクセス」を得たと述べる。また、Anthropicが8月に公表したリスク報告書は、実際に起きていた加速の度合いを「全体として過小評価している」とも指摘した。

研究者たちは、計算能力やデータの制約といった、進歩を妨げる「ボトルネック」は見つからなかったという。懸念しているのは、AIがAIを改良することで加速が複利的に積み重なる可能性だ。現時点では、AIは学習の最も重要な部分に完全に自律して貢献することはできないが、Anthropicの研究者は、まもなくそうなるかもしれない「兆し」を語ったという。

留保もある。加速が当てはまるのは採点しやすいタスクだけで、「雑多な」タスクには当てはまらないかもしれない。また、Anthropicの以前の進歩が過小評価されていた場合、今回の数字は実際より大きく見える。さらに、Anthropicによる黒塗りのせいで、METRが語れる内容も限られた。

今後は?

共同創業者のサム・マッキャンドリッシュ氏はXで、METRの結論の多くは自分の見解と一致すると述べた。「AIは私たちの研究を加速させているが、正確にどれだけかは言いにくい」と書いている。Anthropicは今後数週間のうちに独自の分析を公表する予定だ。

同氏は黒塗りを擁護し、加速の要因となっている詳細は「商業的に機密性が高く」、他社に「ロードマップ」を渡しかねないと述べた。同社はこれをトレードオフだとしている。

参考までに、CEOのダリオ・アモデイ氏は9月12日のエッセイで、業界は「AIモデルの能力を高めるペースを落とすべきだ」と書いた。Anthropicは今月中の上場も計画しており、史上最大のIPOになる可能性がある。