Rapport IA de Stanford : voir n'est plus croire, photos et vidéos

Le projet AI100 de l'université Stanford vient de publier son troisième rapport, cinq ans après le précédent. Son verdict : « Voir n'est plus croire. » AI100 est une étude à long terme lancée en 2014, qui fait le point tous les cinq ans sur l'impact de l'IA ; les rapports précédents datent de 2016 et 2021 (« Gathering Strength, Gathering Storms »). Le nouveau, signé de l'Institute for Human-Centered AI de Stanford, se penche sur l'ère du passage à l'échelle et sur l'essor de l'IA générative. Voici les points clés.

1. Un système de confiance centenaire se fissure

Depuis environ 100 ans, on considère les photos, les enregistrements audio et les vidéos comme des preuves fiables. Selon le rapport, les contenus générés par IA sont de plus en plus difficiles à distinguer du réel.

2. Les deepfakes sexuels ont explosé

Les images et vidéos deepfake à caractère sexuel, réalisées sans consentement, ont augmenté de 1 600 % entre 2023 et 2025, soit en deux ans seulement. Les deepfakes servent aussi à s'immiscer dans des élections un peu partout dans le monde et à produire des contenus d'abus sexuels sur mineurs.

3. Les voix clonées alimentent les arnaques

Les chercheurs expliquent que les voix copiées servent de plus en plus à tromper le public et à soutirer de l'argent à des victimes qui ne se doutent de rien. Ils s'attendent à ce que les dégâts gagnent le journalisme, les industries créatives, la politique et le système judiciaire.

4. Le bénéfice espéré n'est pas venu

Le rapport de 2021 avait déjà mis en garde contre ces risques, mais espérait aussi que l'IA diffuserait davantage de points de vue et réduirait les biais d'information. Les auteurs affirment que cet espoir ne s'est pas réalisé.

5. La guerre a changé plus vite que prévu

Les armes dopées à l'IA sont déployées bien plus vite que prévu il y a cinq ans. Des systèmes comme Lavender, Gospel et Palantir, qui aident à choisir les cibles, sont utilisés à l'échelle industrielle dans des conflits comme ceux de Gaza et d'Ukraine. Le rapport avertit que cela creuse la « distance morale » entre les humains et la violence, et augmente le risque que des erreurs de l'IA fassent des victimes civiles. Il appelle à de nouvelles règles d'engagement pour éviter des catastrophes humanitaires.

6. Une course fragmentée à la puissance en IA

Les États-Unis et la Chine se font concurrence sur l'IA, et d'autres pays développent la leur pour garantir leur souveraineté technologique. Pendant ce temps, selon le rapport, les discussions sur la régulation restent fragmentées.

7. Brillante, mais étrangement inégale

L'IA peut contribuer à des avancées dignes d'un prix Nobel, et pourtant elle peine encore à compter combien de fois la lettre « r » apparaît dans « strawberry ». Le rapport signale aussi des cas de troubles mentaux liés à la dépendance à l'IA, ainsi qu'un déluge de contenus de piètre qualité, l'« AI slop ».

Sheila McIlraith, présidente du comité permanent d'AI100 à l'université de Toronto, a qualifié les cinq dernières années de tournant. Elle a exhorté les gouvernements et l'industrie à protéger les institutions et les infrastructures, avec des tests et un contrôle clairs des bénéfices comme des risques.