Stanford-KI-Bericht: Fotos und Videos sind kein Beweis mehr

Das AI100-Projekt der Stanford University hat seinen dritten Bericht veröffentlicht, fünf Jahre nach dem letzten. Das Urteil: „Sehen heißt nicht mehr glauben.“ AI100 ist eine Langzeitstudie, die 2014 gestartet wurde und alle fünf Jahre die Folgen von KI untersucht. Frühere Berichte erschienen 2016 und 2021 („Gathering Strength, Gathering Storms“). Der neue Bericht stammt vom Institute for Human-Centered AI in Stanford und beschäftigt sich mit der Phase des Hochskalierens und dem Aufstieg der generativen KI. Hier sind die wichtigsten Punkte.

1. Ein hundert Jahre altes Vertrauenssystem bekommt Risse

Seit etwa 100 Jahren gelten Fotos, Audio- und Videoaufnahmen als verlässliche Belege. Laut Bericht lassen sich KI-generierte Medien immer schwerer von echten unterscheiden.

2. Sexuelle Deepfakes haben explosionsartig zugenommen

Deepfake-Bilder und -Videos mit sexuellen Inhalten, die ohne Einwilligung entstehen, stiegen zwischen 2023 und 2025, also in nur zwei Jahren, um 1.600 Prozent. Deepfakes werden außerdem genutzt, um weltweit in Wahlen einzugreifen und um Darstellungen sexuellen Kindesmissbrauchs herzustellen.

3. Geklonte Stimmen befeuern Betrug

Die Forschenden sagen, dass kopierte Stimmen immer häufiger eingesetzt werden, um die Öffentlichkeit zu täuschen und ahnungslosen Opfern Geld abzunehmen. Sie erwarten, dass sich der Schaden auf Journalismus, Kreativbranchen, Politik und Justiz ausbreitet.

4. Der erhoffte Nutzen ist ausgeblieben

Der Bericht von 2021 hatte vor diesen Risiken gewarnt, hoffte aber auch, dass KI mehr Perspektiven verbreiten und Verzerrungen in der Information verringern würde. Die Autorinnen und Autoren sagen, diese Hoffnung habe sich nicht erfüllt.

5. Der Krieg hat sich schneller verändert als erwartet

KI-Waffen kommen viel schneller zum Einsatz, als vor fünf Jahren vorhergesagt. Systeme wie Lavender, Gospel und Palantir, die bei der Auswahl von Zielen helfen, werden in Konflikten wie in Gaza und der Ukraine im industriellen Maßstab genutzt. Der Bericht warnt, dass dadurch die „moralische Distanz“ zwischen Menschen und Gewalt wächst und das Risiko steigt, dass durch KI-Fehler Zivilisten zu Schaden kommen. Er fordert neue Einsatzregeln, um humanitäre Katastrophen zu verhindern.

6. Ein zersplittertes Rennen um KI-Macht

Die USA und China konkurrieren bei KI, und andere Länder bauen eigene Systeme auf, um technologische Souveränität zu sichern. Die Debatten über Regulierung bleiben laut Bericht unterdessen zersplittert.

7. Brillant, aber seltsam ungleichmäßig

KI kann dabei helfen, Fortschritte auf Nobelpreis-Niveau zu erzielen, und scheitert trotzdem noch daran, zu zählen, wie oft der Buchstabe „r“ in „strawberry“ vorkommt. Der Bericht verweist außerdem auf Fälle psychischer Erkrankungen im Zusammenhang mit KI-Abhängigkeit und auf eine Flut minderwertiger Inhalte, den sogenannten „AI Slop“.

Sheila McIlraith, Vorsitzende des AI100-Lenkungsausschusses an der University of Toronto, nannte die vergangenen fünf Jahre eine Zeitenwende. Sie forderte Regierungen und Wirtschaft auf, Institutionen und Infrastruktur zu schützen, mit klaren Tests und klarer Aufsicht über Nutzen und Risiken.