スタンフォードAI報告書「見ても信じられない時代」写真・動画の信頼が揺らぐ

スタンフォード大学のAI100プロジェクトが、前回から5年ぶりに3本目の報告書を公開しました。その結論は「見ることは、もはや信じることではない」。AI100は2014年に始まった長期研究で、5年ごとにAIの影響を検証しています。過去の報告書は2016年と2021年(「Gathering Strength, Gathering Storms」)に出ています。今回はスタンフォードのInstitute for Human-Centered AI(人間中心AI研究所)がまとめ、規模拡大の時代と生成AIの台頭を扱っています。主なポイントを見ていきましょう。

1. 100年続いた信頼の仕組みにひびが入っている

約100年にわたり、人々は写真や音声、動画を信頼できる記録として扱ってきました。報告書によると、AI生成のメディアは本物との見分けがますます難しくなっています。

2. 性的ディープフェイクが急増

本人の同意なしに作られる性的なディープフェイクの画像・動画は、2023年から2025年のわずか2年間で1,600%増えました。ディープフェイクは、世界各地の選挙への干渉や、児童性的虐待コンテンツの制作にも使われています。

3. 声のクローンが詐欺を加速させる

研究者は、コピーされた声が世間をだましたり、疑いを持たない被害者からお金を引き出したりするために使われるケースが増えていると述べています。被害はジャーナリズム、クリエイティブ産業、政治、司法制度にも広がると見ています。

4. 期待されたプラス面は現れなかった

2021年の報告書はこうしたリスクを警告していましたが、同時にAIが多様な視点を広め、情報の偏りを減らすことにも期待していました。著者らは、その期待は実現していないと述べています。

5. 戦争は予想より速く変わった

AI兵器は、5年前の予測よりはるかに速く配備されています。標的の選定を支援するLavender、Gospel、Palantirといったシステムは、ガザやウクライナなどの紛争で大規模に使われています。報告書は、これが人間と暴力との「道徳的距離」を広げ、AIのミスで民間人が被害を受けるリスクを高めると警告。人道的な惨事を防ぐため、新たな交戦規則を求めています。

6. バラバラに進むAI覇権争い

米国と中国はAIで競い合い、他の国々も技術的主権を確保するため独自のAIを構築しています。一方で、規制をめぐる議論はまとまっていないと報告書は指摘します。

7. 見事なのに、どこかムラがある

AIはノーベル賞級の成果に貢献できる一方、「strawberry」に「r」が何回出てくるかを数えるのには、まだ苦戦します。報告書は、AIへの依存に関連した精神疾患の事例や、低品質な「AIスロップ」があふれている状況にも注意を促しています。

トロント大学でAI100の常任委員会の委員長を務めるシーラ・マキルレイス氏は、この5年間を分水嶺と呼びました。そして政府と産業界に対し、メリットとリスクの両方について明確な検証と監督を行いながら、制度とインフラを守るよう求めています。