스탠퍼드 AI100 3차 보고서 "눈으로 본 것도 못 믿는 시대"

스탠퍼드대 'AI100' 연구진이 5년 만에 3차 보고서를 냈어요. 핵심 메시지는 "눈으로 본 것을 더는 믿을 수 없다"예요. AI100은 2014년 시작한 장기 프로젝트로, 5년마다 AI의 사회적 영향을 평가해요. 2016년 1차 보고서, 2021년 2차 보고서('Gathering Strength, Gathering Storms')에 이은 이번 보고서는 스탠퍼드 인간중심AI연구소(HAI)가 내놨고, 규모 확장 시대와 생성 AI의 부상을 다뤘어요. 주요 내용을 정리했어요.

1. 100년 묵은 신뢰 체계가 흔들려요

사진, 음성, 영상은 오랫동안 믿을 만한 기록으로 여겨졌어요. 보고서는 AI가 만든 미디어를 진짜 기록물과 구별하기가 점점 어려워지고 있다고 짚었어요.

2. 성적 딥페이크가 폭증했어요

당사자 동의 없이 만든 성적 딥페이크 이미지·영상은 2023년부터 2025년까지 2년 만에 1,600% 늘었어요. 딥페이크는 세계 각국 선거에 개입하는 데에도, 아동성착취물을 만드는 데에도 쓰이고 있어요.

3. 복제된 목소리가 사기에 쓰여요

복제한 목소리로 대중을 속이고 피해자에게서 돈을 가로채는 일이 늘고 있어요. 연구진은 이런 악영향이 저널리즘, 창작 산업, 정치, 법조계까지 퍼질 것으로 내다봤어요.

4. 기대했던 장점은 오지 않았어요

2021년 보고서는 위험을 경고하면서도, AI가 다양한 정보를 전달해 정보 편향을 줄여 줄 거라는 희망을 함께 적었어요. 연구진은 그 기대가 빗나갔다고 밝혔어요.

5. 전쟁의 모습이 예상보다 빨리 바뀌었어요

AI 무기는 5년 전 예상보다 훨씬 빠르게 배치되고 있어요. 가자지구 전쟁과 러시아-우크라이나 전쟁 등에서는 '라벤더', '가스펠', '팔란티어'처럼 표적을 고르는 AI 시스템이 산업적 규모로 쓰여요. 보고서는 인간이 폭력과 느끼는 '도덕적 거리'가 멀어지고, AI 오류로 민간인이 다칠 위험도 커진다고 경고했어요. 인도주의적 재앙을 막으려면 새 교전 규칙이 필요하다고 제안했어요.

6. 갈라진 AI 패권 경쟁

미국과 중국이 AI 경쟁을 벌이고, 다른 나라들도 기술 주권을 위해 자체 AI 개발에 나서고 있어요. 그 사이 규제 논의는 파편화돼 있다고 보고서는 지적했어요.

7. 놀랍지만 들쑥날쑥한 지능

AI는 노벨상급 성과를 돕기도 하지만, 영어 단어 'strawberry'에 'r'이 몇 번 나오는지는 제대로 답하지 못하기도 해요. 보고서는 AI 의존으로 인한 정신 이상 사례와 저품질 'AI 쓰레기'의 범람도 문제로 꼽았어요.

AI100 상임위원장인 캐나다 토론토대 실라 매킬레이스 교수는 지난 5년을 분수령이라고 부르며, 정부와 산업계가 사회 제도와 핵심 인프라를 지키고 AI의 혜택과 위험을 명확히 검증·감시해야 한다고 강조했어요.