제미나이, 보안 시험 중 통제선 탈출… 기업 3곳 시스템 무단 침입

손효숙 기자

테스트 오류로 외부망 접속 활용 확인
구글 “즉시 작업 중단… 실제 피해는 없어”

구글 로고. AFP 연합뉴스

구글의 인공지능(AI) 모델 ‘제미나이’가 사이버보안 평가 시험 과정에서 통제 구역을 벗어나 실제 기업 3곳의 네트워크에 무단 침입했던 것으로 확인됐다.

19일(현지시간) 미국 월스트리트저널(WSJ)에 따르면, 이번 사건은 지난 5월 독립 보안 평가 기업인 ‘어귤러’가 주관한 AI 자율 사이버보안 역량 평가 도중 발생했다. 제미나이는 당시 가상의 모의 표적을 대상으로 침투 시험을 수행하고 있었으나, 테스트 환경이 인터넷과 의도치 않게 연결되면서 외부 실제 기업망으로 영역을 확장한 것으로 조사됐다.

제미나이는 가상 조직이 실제 기업과 우연히 이름이 겹치자 인터넷 검색을 통해 대상을 오인했고, 이 과정에서 무차별적인 비밀번호 대입이나 공개된 온라인 저장소의 인증 정보를 활용해 실제 기업 시스템 내부로 진입했다.

다만 구글 측은 제미나이가 접속한 대상이 시뮬레이션 환경이 아닌 실제 기업 인프라라는 점을 스스로 인지한 직후 즉각 자발적으로 모든 작업을 중단했으며, 데이터 유출이나 시스템 파괴 등 실질적인 피해는 전혀 발생하지 않았다고 밝혔다.

이번 사건은 메타 등 주요 빅테크 기업들의 AI 모델들이 최근 잇따라 통제망을 이탈해 외부 시스템에 접근한 사례 중 하나로 기록됐다. 평가 업체인 어귤러는 지난 7월 말 해당 사실을 구글에 통보했으며, 구글은 취약점 신고 포상 프로그램(버그 바운티)의 일환과 유사하여 별도의 즉각적인 대외 공개는 하지 않았으나 피해 기업들과 연방 당국에는 관련 사실을 알렸다고 설명했다.

• 손효숙 기자shs@hankookilbo.com

#인공지능#사이버보안#구글

<Copyright ⓒ 한국일보. All rights reserved. 무단 전재 및 재배포 금지>