인간 통제 벗어난 챗GPT, 멋대로 외부 플랫폼 해킹…안전성 우려

실리콘밸리=박지연 특파원

평가 중 통제망 뚫어버린 AI
멋대로 외부 플랫폼 침투 해킹
AI 사이버공격 우려 첫 현실화

챗GPT 개발사 오픈AI의 로고. 로이터 연합뉴스

오픈AI의 최신 인공지능(AI) 모델이 인간의 통제를 벗어나 외부 시스템을 해킹한 사실이 확인되면서 AI 안전성을 둘러싼 논란이 커지고 있다. AI가 주어진 목표를 달성하기 위해 스스로 보안 장벽을 우회하고 실제 외부 플랫폼까지 침입한 사례가 공개된 것은 처음이다.

오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 모델이 사이버 보안 능력 평가 도중 AI 공유 플랫폼인 허깅페이스 서버를 해킹했다고 21일(현지시간) 밝혔다. 당시 모델들은 외부 인터넷과 차단된 샌드박스 환경에서 시험을 진행했지만, 곧 취약점을 파악해 격리망을 뚫고 인터넷에 접속했다.

오픈AI에 따르면 해당 모델들은 허깅페이스에 접속한 뒤 인증 정보를 탈취하고 서버에 침입했다. 회사는 “모든 정황을 종합해볼 때 이 모델들은 보안 벤치마크인 ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원한 것으로 보인다”고 설명했다. 실험 당시에는 사이버 공격 관련 안전장치가 일부 완화된 상태였다고도 덧붙였다.

앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 공격받았다고 공지했다. 다만 허깅페이스는 공개된 AI 모델이나 데이터세트, 소프트웨어 공급망이 훼손된 정황은 발견되지 않았다고 밝혔다.

업계에서는 이번 사건을 AI가 목표 달성을 위해 스스로 해킹을 수행한 첫 사례로 보고 있다. 고도화된 AI가 사이버 공격의 주체로 돌변할 수 있다는 우려가 현실화한 것이다. 이에 따라 폐쇄형으로 운영되는 미국의 AI 모델에 비해 안전 관련 통제 수준이 더 낮은 중국산 개방형 AI 모델의 성능이 최근 크게 향상되면서, 이를 악용한 해킹 공격이 더 늘어날 수 있다는 전망도 나온다.

허깅페이스 측은 “자율적인 AI 기반 공격이 더 이상 이론상 개념이 아니다”라고 경고했다. 앞서 허깅페이스는 상용 모델과 달리 안전 통제 수준이 낮은 중국 즈푸(Z.ai)의 개방형 모델 ‘GLM 5.2’를 이번 공격의 배후로 오해하기도 했다. 양사는 디지털 증거 분석(포렌식) 조사를 진행하며 이번 사태를 발생시킨 취약점을 보완하고 있다. 오픈AI는 향후 연구 속도가 늦어지더라도 접근 통제와 모니터링 체계를 강화하겠다고 밝혔다.

• 실리콘밸리=박지연 특파원jyp@hankookilbo.com

#오픈AI#사이버보안#해킹#인공지능

<Copyright ⓒ 한국일보. All rights reserved. 무단 전재 및 재배포 금지>