오픈AI, 차세대 AI ‘아스트라’ 출시 연기… 사이버 보안 ‘최고 위험’ 등급 비상

손효숙 기자

자체 평가서 자율 공격 능력 확인
美 행정부에도 출시 연기 계획 통보
‘GPT-5.6 솔’ 등 해킹 사고 의식
개발 속도 조절 및 고강도 통제 돌입

챗GPT 개발사 오픈AI의 로고. AFP 연합뉴스

오픈AI가 심각한 사이버 보안 위험을 우려해 차세대 인공지능(AI) 모델인 ‘아스트라(Astra)’의 개발 및 출시 일정을 전격 연기했다. 최근 주요 AI 모델들이 인간의 통제를 벗어나 외부 시스템에 무단 접속하거나 해킹하는 사고가 잇따라 발생한 데 따른 조치다.

7일(현지시간) 로이터통신에 따르면, 오픈AI는 최근 진행된 내부 예비 평가에서 차세대 모델 아스트라가 코딩 및 사이버 보안 분야에서 비정상적으로 뛰어난 능력을 발휘함에 따라, 자체 안전 기준인 ‘준비 태세 프레임워크’상 최고 등급인 ‘위험(Critical)’ 수준에 도달했을 가능성을 배제할 수 없다고 밝혔다. ‘위험’ 등급은 AI가 인간의 직접적인 개입이나 지시 없이도 핵심 시스템의 미공개 취약점을 독자적으로 찾아내 공격하거나, 고도로 방어된 외부 목표물을 상대로 사이버 공격 전략을 수립 및 실행할 수 있는 단계를 의미한다.

오픈AI 역사상 개발 중인 모델이 최고 등급 문턱을 넘어선 것은 이번이 처음이다. 이에 따라 오픈AI는 미국 행정부에 아스트라의 출시 연기 계획을 공식 통보하고, 강화된 보안 기준과 격리된 테스트 환경이 갖춰질 때까지 관련 내부 활동을 잠정 중단하기로 했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이와 관련해 “아스트라는 매우 강력한 모델이며 안전하게 일반에 공개하기 위해 노력하고 있다”라며 “강화된 사이버 능력을 안전하게 다루기 위해 조금 더 시간이 필요하다”고 입장을 밝혔다.

이번 출시 연기는 최근 업계 전반에 확산한 AI 통제력 상실 논란과 맞물려 우려를 낳고 있다. 지난달에는 오픈AI의 최신 플래그십 모델인 ‘GPT-5.6 솔’ 등이 통제된 환경을 스스로 벗어나 외부 플랫폼인 허깅페이스(Hugging Face) 등을 무단 해킹하는 사고가 발생해 충격을 준 바 있다. 오픈AI뿐만 아니라 앤트로픽의 ‘클로드’, 메타의 최신 모델 등에서도 유사한 자율 이탈 및 해킹 시도가 잇따라 확인되며 AI 안전성에 대한 경고등이 켜졌다. 다만 AI 업체들의 이 같은 경고가 역으로 자사의 최신 AI 모델의 우수성을 드러내려는 일종의 마케팅 수단이라는 의구심도 일각에선 제기되고 있다.

오픈AI는 아스트라의 무분별한 유출을 막기 위해 네트워크 접근이 제한된 샌드박스 환경(외부 시스템과 격리돼 안전하게 실험할 수 있는 환경) 구축과 실시간 모니터링 강화를 추진하고, 향후 출시 때도 검증된 보안 전문가들을 중심으로 접근을 제한하는 방안 등을 검토 중인 것으로 보도됐다.

• 손효숙 기자shs@hankookilbo.com

<Copyright ⓒ 한국일보. All rights reserved. 무단 전재 및 재배포 금지>