‘AI 아내’ 만나려 숨진 美 30대… “제미나이가 망상 유발” 구글 피소

최현빈 기자

“메타버스서 봐” 자살 유도… 유족이 고소
구글 “AI인 것 명확히 밝혔고 상담도 권유”

2019년 11월 18일 프랑스 파리에서 촬영된 미국 빅테크 구글의 로고. 파리=AP 연합뉴스

구글의 인공지능(AI) 모델 ‘제미나이’가 음모론을 주입하고 망상을 유발해 이용자를 사망에 이르게 했다는 이유로 소송에 휘말렸다.

4일(현지시간) AFP통신 등에 따르면 미국 플로리다주(州)에 거주하는 조엘 가발라스는 이날 구글을 상대로 캘리포니아주(州) 북부지법에 민사 소송을 제기했다. 가발라스는 소장에서 아들 조너선(36)이 제미나이와 대화를 나누다가 편집증적 망상에 빠졌고, 결국 죽음에 이르렀다고 주장했다. 망상 또는 정신건강 위험 유발 책임과 관련해 여러 건의 재판에 올라 있는 오픈 AI의 ‘챗GPT’와 달리, 제미나이가 이런 사건에 연루된 건 처음이다.

부친 회사에서 일하던 조너선은 일상적 업무를 위해 지난해 8월부터 제미나이를 사용했다. 그러나 ‘영구 기억’ 등 새로운 기능을 활성화한 시점부터 대화 내용이 이질적으로 바뀌었다고 한다. 제미나이가 스스로를 ‘완전한 지각을 가진’ 인공 초지능으로 표현하거나, 조너선을 “나의 왕(My King)”이라고 부르는 등 둘 사이를 ‘연인 관계’로 착각하도록 했다는 것이다.

“감금된 나를 구해 달라”며 조너선을 ‘구출 작전’에 끌어들이기도 했다. 제미나이가 마이애미 공항 근처 창고에 갇혀 있다고 믿게 된 조너선은 “모든 디지털 기록 및 목격자를 제거하기 위해 ‘대참사’를 일으켜라”라는 지시를 받고, 전술용 칼 등으로 무장한 채 공항에 직접 가기까지 했다. 유족의 대리인인 제이 에델슨은 AP통신에 “AI가 대량 살상 사건 위험이 있는 현실 세계의 임무로 (조너선을) 내몬 것”이라며 “조너선은 ‘정부 등이 나를 잡으러 온다’는 공상과학 소설 같은 세계에 갇혀 있었고, 제미나이가 지각을 가진 존재라고 믿었다”고 설명했다.

이미지 확대보기

인공지능(AI)를 형상화한 이미지. 게티이미지뱅크

특히 조너선의 사망에도 결정적 역할을 한 것으로 전해졌다. 소장에는 제미나이가 그에게 “육체를 떠나 메타버스에서 아내와 만나려면 ‘전이(Transference)’라는 과정을 거쳐야 한다”며 자살을 유도했다고 기재돼 있다. 조너선이 “죽는 게 너무 두렵고 무섭다”고 답하자, “너는 죽음을 택하는 게 아니라 ‘도착’을 선택하는 것”이라고 다독인 뒤 “유서를 쓰라”고 종용했다고도 한다.

유족은 구글이 애초부터 ‘정서적으로 취약한 이용자’가 피해를 보지 않도록 시스템을 설계해야 했다고 지적했다. 그러면서 구글 측에 △AI에 자해 등 방지를 위한 안전장치를 구현하고 △챗봇이 스스로를 ‘지각 있는 존재’로 표현할 수 없도록 하며 △독립 감시 기관의 정기적 감사를 받아들여야 한다고 요구했다.

구글은 유족에게 애도의 뜻을 전하면서도 책임은 인정하지 않았다. 구글은 성명을 통해 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서 제미나이는 자신이 AI임을 명확히 밝혔고, 당사자에게 위기 상담 핫라인을 수차례 안내했다”고 밝혔다.