Informe de Stanford sobre IA: ver ya no es creer en fotos y vídeo

El proyecto AI100 de la Universidad de Stanford ha publicado su tercer informe, cinco años después del anterior. Su veredicto: «Ver ya no es creer». AI100 es un estudio a largo plazo lanzado en 2014 que revisa cada cinco años el impacto de la IA; los informes anteriores son de 2016 y 2021 («Gathering Strength, Gathering Storms»). El nuevo, del Institute for Human-Centered AI de Stanford, analiza la era del escalado y el auge de la IA generativa. Estos son los puntos clave.

1. Un sistema de confianza centenario se resquebraja

Durante unos 100 años, la gente ha tratado las fotos, el audio y el vídeo como registros fiables. El informe dice que cada vez es más difícil distinguir los contenidos generados por IA de los reales.

2. Los deepfakes sexuales se han disparado

Las imágenes y los vídeos deepfake sexuales sin consentimiento aumentaron un 1.600 % entre 2023 y 2025, solo dos años. Los deepfakes también se usan para interferir en elecciones de todo el mundo y para producir material de abuso sexual infantil.

3. Las voces clonadas alimentan las estafas

Los investigadores señalan que las voces copiadas se usan cada vez más para engañar al público y sacar dinero a víctimas desprevenidas. Esperan que el daño se extienda al periodismo, las industrias creativas, la política y el sistema judicial.

4. El lado bueno esperado no llegó

El informe de 2021 ya advertía de estos riesgos, pero también esperaba que la IA difundiera más perspectivas y redujera el sesgo informativo. Los autores dicen que esa esperanza no se ha cumplido.

5. La guerra ha cambiado más rápido de lo esperado

Las armas con IA se están desplegando mucho más rápido de lo previsto hace cinco años. Sistemas como Lavender, Gospel y Palantir, que ayudan a seleccionar objetivos, se usan a escala industrial en conflictos como los de Gaza y Ucrania. El informe advierte de que esto amplía la «distancia moral» entre las personas y la violencia y aumenta el riesgo de que los errores de la IA dañen a civiles. Pide nuevas reglas de enfrentamiento para evitar desastres humanitarios.

6. Una carrera fragmentada por el poder de la IA

Estados Unidos y China compiten en IA, y otros países desarrollan la suya para asegurar su soberanía tecnológica. Mientras tanto, según el informe, los debates sobre regulación siguen fragmentados.

7. Brillante, pero curiosamente irregular

La IA puede ayudar a lograr avances de nivel Nobel, y aun así le cuesta contar cuántas veces aparece la letra «r» en «strawberry». El informe también señala casos de enfermedad mental vinculados a la dependencia de la IA y una avalancha de contenido de baja calidad, el llamado «AI slop».

Sheila McIlraith, presidenta del comité permanente de AI100 en la Universidad de Toronto, calificó los últimos cinco años de punto de inflexión e instó a gobiernos y empresas a proteger instituciones e infraestructuras, con pruebas y supervisión claras tanto de los beneficios como de los riesgos.