‘마두로 압송’ 사진 상당수 ‘가짜’…”역사적 사건에 AI 개입 최초 사례”

공식 사진 공개 전에 조작 사진 유포
일부 라틴아메리카 언론도 속아

니콜라스 마두로 베네수엘라 대통령이 죄수복을 입은 가짜 사진. 인공지능(AI)으로 생성된 것으로 추정된다. 엑스(X) 캡처

니콜라스 마두로 베네수엘라 대통령이 미국으로 체포·압송된 후 사회관계망서비스(SNS)에 인공지능(AI)으로 생성된 가짜 사진이 쏟아지고 있다.

미국 뉴욕타임스(NYT)는 5일(현지시간) “마두로가 미군에 체포됐다는 소식이 전해진 후 몇 시간 만에 마두로를 압송하는 가짜 사진이 SNS를 뒤덮었다”고 전했다. 가짜 사진은 마두로가 수갑을 찬 채 호송되거나, 마약단속국 요원과 함께 군용 항공기에 있는 등의 모습이었다.

마두로 체포 장면을 묘사한 가짜 사진. X 캡처

전문가들은 역사적 순간에 AI가 가짜 이미지를 생성한 최초의 사례라고 평가했다. 로베르타 브라가 미국디지털민주주의연구소 사무총장은 “실제의 한순간이어야 할 장면을 묘사한 AI 이미지가 이렇게 많은 것은 처음 봤다”고 말했다. 카라카스에서 팩트체크 사이트를 운영하는 장프레디 구티에레스는 “일부 라틴아메리카 언론들도 가짜 이미지에 속았다”며 “이후 가짜 사진들은 도널드 트럼프 미 대통령이 SNS에 올린 사진으로 교체됐다”고 전했다.

대부분의 가짜 사진은 공식 사진이 공개되기 전 온라인에 유포됐다. 라틴아메리카 디지털 생태계를 분석하는 비영리단체 프로박스VE 이사 마리비 마린은 “개인이 상상하는 마두로 체포 순간을 완벽한 이미지로 재현하려는 욕구에서 비롯됐다”며 “체포 소식 이후 공식 사진이 공개되지 않자 현실이든 비현실이든 시각적 공백을 채우려는 것”이라고 진단했다.

마두로 체포 장면을 묘사한 가짜 사진. X 캡처

대부분의 AI는 ‘오해를 불러일으키는 콘텐츠를 금지한다’는 윤리 강령을 갖고 있지만, NYT가 생성형 AI에 마두로 사진을 요청하자 금방 이미지를 만들어냈다. 제미나이와 그록은 사진을 즉시 생성했고, 챗GPT는 마두로의 이미지를 생성할 수 없다고 답했다. 다만 NYT가 챗GPT 모델을 이용하는 다른 웹사이트를 통해 요청하자 관련 이미지를 생성했다. NYT는 “실험 결과 대부분의 AI가 기술 오남용 방지 규정을 무시했다”고 꼬집었다.

박지영 기자 jypark@hankookilbo.com