'가짜 전쟁 영상' 확산에... X, "AI 생성 표시 안 하면 수익 안 줘"

실리콘밸리=박지연 특파원

와이어드 “X 유료 계정서 허위 정보 확산”

일론 머스크 테슬라 최고경영자(왼쪽 사진)와 그가 소유한 사회관계망서비스 업체 ‘엑스’ 로고. AFP 연합뉴스

미국·이스라엘과 이란 간 공습이 이어지는 가운데 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 사회관계망서비스(SNS) 엑스(X)가 전쟁 관련 인공지능(AI) 생성 영상을 출처 표기 없이 게시하는 사용자에게 수익 공유를 중단하기로 했다. 최근 X에서 전쟁 관련 허위정보 확산에 대한 비판이 높아진 데 따른 조치로 보인다.

X의 제품 책임자 니키타 비어는 3일(현지시간) X 게시물을 통해 “무력 충돌을 다룬 AI 생성 동영상을 게시할 때 AI 제작 사실을 밝히지 않은 이용자는 광고 수익 공유 프로그램에서 90일간 제외된다”며 “재차 적발 시에는 프로그램에서 영구 제외된다”고 공지했다. 이에 따라 이용자가 AI 생성 영상 게시물을 올릴 때는 메뉴에서 ‘AI로 제작됨’ 표시를 반드시 추가해야 한다.

비어는 “전쟁 중에 사람들은 정확한 정보를 얻을 권리가 있다”며 “AI 기술로 사람들을 속이는 콘텐츠가 너무 쉽게 만들어진다”고 정책 시행 배경을 설명했다. X는 AI 메타데이터와 집단지성 기반 사실 확인 체계인 커뮤니티 노트 시스템을 활용해 위반 게시물을 적발할 계획이다. 이 정책은 전쟁 관련 영상에 제한적으로 적용되며, 정치·경제 관련 콘텐츠에는 적용되지 않는다.

이란 최고지도자 하메네이가 미국와 이스라엘의 폭격으로 사망한 현장 사진이라며 인터넷에 유포된 가짜 사진.

‘전쟁 허위 정보’ 몸살 겪은 X

이는 최근 X가 전쟁 관련 허위정보의 온상이 되고 있다는 비판에 대한 조치로 풀이된다. 미 정보기술(IT) 전문매체 와이어드는 지난달 28일 미국과 이스라엘의 이란 공습 직후 올라온 수백 개의 X 게시물을 검토한 뒤, 상당수의 게시물이 AI로 생성 및 조작됐거나 공격 위치와 규모에 대한 오해를 낳는 허위 정보를 퍼뜨리고 있다고 지적했다.

이란 공습 몇 시간 뒤 X에는 이스라엘 전투기가 이란 방공 시스템에 의해 격추되는 영상이 게시됐다. 이 영상은 350만 회 이상 조회됐고 수십 개의 계정을 통해 공유됐다. 와이어드는 “이날 이란 상공에서 이스라엘 전투기가 격추됐다는 신뢰할 만한 보고는 없었다”고 보도했다.

또 오픈소스 정보 전문가라고 스스로 주장하는 이용자의 계정에는 폭발 장면이 담긴 영상과 함께 “인도가 투자한 이스라엘 하이파 항구에 이란의 극초음속 미사일 6기가 명중했다. 막대한 피해가 보고됐다”는 설명이 달렸다. 조회수 6만4,000회를 올린 이 영상은 그러나 “시리아 다마스쿠스 국방부를 겨냥한 이스라엘의 공격 장면”이라고 와이어드는 지적했다.

와이어드는 “허위 정보를 확산한 대부분의 계정에는 파란색 인증 배지가 달려 있다”며 “이는 유료 계정으로, 조회수나 반응에 따라 수익을 얻을 수 있다”고 지적했다. 수익을 얻기 위해 허위 정보를 퍼뜨렸을 가능성이 높다는 의미다.

X는 머스크 인수 후 허위 정보를 검증하고 제재하는 장치를 완화해, 가짜뉴스 확산지라는 꼬리표를 달았다. 머스크가 설립한 xAI의 AI 챗봇 ‘그록’도 지난해 12월 호주 시드니 본다이비치에서 발생한 총격 테러 사건 때 총격범을 맨손으로 제압한 시민 영웅을 ‘하마스의 인질’이라고 답변하는 등 직접 허위 정보를 확산한 바 있다.