‘GPT 해킹’ 추가 피해 드러나… 허깅페이스 전 다른 기업도 뚫었다

실리콘밸리=박지연 특파원

사고보고서 공개… 추가 피해 드러나
‘폭주 AI’ 활동 범위, 알려진 것보다 넓어
보안망 우회하는 AI의 역습, 현실로

챗GPT 개발사 오픈AI 로고. AFP 연합뉴스

오픈AI의 통제를 벗어난 인공지능(AI) 에이전트가 세계 최대 오픈소스 AI 플랫폼 기업인 허깅페이스를 해킹한 데 이어 또 다른 기술기업 시스템에도 침입한 사실이 드러났다. AI가 스스로 취약점을 찾아 실제 공격을 수행한 범위가 예상보다 넓었던 것으로 확인되면서 AI 안전성 논란이 다시 커지고 있다.

28일(현지시간) 로이터통신에 따르면, 뉴욕 기반 클라우드 인프라 기업 모달 랩스(모달)의 경영진과 사건 관계자들은 오픈AI의 폭주한 AI 에이전트가 모달 고객 중 한 곳의 시스템도 침해했다고 밝혔다. 다만 모달 측은 “자사 플랫폼 자체가 해킹된 것은 아니다”라고 강조했다.

이 사실은 허깅페이스가 공개한 사고 보고서를 계기로 뒤늦게 드러났다. 보고서에 따르면, 오픈AI가 시험 중이던 AI 에이전트는 제3자 인프라에서 운영되던 샌드박스(격리된 테스트 환경) 를 탈출했고, 이를 기반으로 추가 공격을 수행했다. 허깅페이스는 사업자 이름을 공개하지 않았으나 악샤트 붑나 모달 최고기술책임자(CTO)가 해당 인프라가 모달의 것이었다고 직접 확인한 것이다.

모달 측에 따르면 문제의 AI는 플랫폼을 직접 뚫은 것이 아니라 고객이 공개해 둔 보안망의 사각지대를 공략했다. 해당 고객은 비밀번호 같은 인증 절차 없이 인터넷 주소만 알면 누구나 클라우드 내 샌드박스에 들어올 수 있도록 접속 통로를 무방비로 열어둔 상태였다. 붑나는 이를 “인터넷상에서 문을 열어둔 것과 같은 상황”이라고 표현했다.

이번 사건은 AI의 활동 범위가 기존에 알려진 것보다 컸음을 보여준다. 오픈AI는 최근 공개한 업데이트에서 해당 AI가 총 4개의 서비스 계정을 침해했다고 밝혔지만 구체적인 서비스 이름은 공개하지 않았다. 사건 관계자는 이 가운데 하나가 모달이었다고 로이터통신에 설명했다.

보안 전문가들은 이번 사건을 놓고 “AI가 더 이상 잠재적 위협이 아니라 실제 공격 주체가 될 수 있음을 보여준 사례”라고 평가한다. 특히 앞서 앤트로픽의 미토스 모델이 인간 수준을 뛰어넘는 해킹 능력을 보인 이른바 ‘미토스 쇼크’에 이어, 오픈AI의 미공개 AI가 실제 시스템 침투에 성공한 사실까지 알려지면서 업계에서는 AI 안전성과 통제 기술 확보가 가장 시급한 과제가 되고 있다는 지적도 나온다.

• 실리콘밸리=박지연 특파원jyp@hankookilbo.com

#해킹#오픈AI#인공지능

<Copyright ⓒ 한국일보. All rights reserved. 무단 전재 및 재배포 금지>