“산업혁명 10배 충격 닥친다”… 구글 딥마인드 CEO, AI 표준기구 촉구

실리콘밸리=박지연 특파원

데미스 허사비스 “인류 특이점의 기슭…
AI 발전 속도, 인간의 이해 능력 앞질러”
美 주도 AI 안전성 검증체계 구축 제안

데미스 허사비스(오른쪽) 구글 딥마인드 최고경영자(CEO)가 지난달 17일 프랑스 에비앙레뱅에서 열린 주요 7개국(G7) 정상회의에서 샘 올트먼 오픈AI CEO와 대화하고 있다. 에비앙레뱅= AP 연합뉴스

노벨상 수상자인 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 수년 내 인공일반지능(AGI) 시대가 도래할 수 있다며, 첨단 인공지능(AI) 모델의 안전성을 평가하고 감독할 독립적 표준 기구 설립을 제안했다. AI 기술 경쟁이 치열해지면서 개발 속도가 안전성 검증을 앞지르고 있다는 우려가 커지고 있어, 제도적 틀을 마련해야 한다는 주장이다.

허사비스는 14일(현지시간) ‘프런티어 AI를 위한 프레임워크와 새로운 시대의 도래’라는 제목의 뉴스레터에서 “지금은 인류 역사의 중대한 전환점”이라며 “AGI는 아마도 몇 년 안에 현실이 될 가능성이 높다”고 밝혔다. 구글의 AI 부문 책임자인 그는 “나는 평생을 AGI 연구에 바쳤다”며 “수십 년 뒤 되돌아보면 지금은 특이점(singularity)의 기슭, 즉 인류의 새로운 시대가 시작되던 시점으로 기억될 것”이라고 짚었다.

허사비스는 AGI의 파급력을 산업혁명에 견줬다. 그는 “AGI의 영향은 인터넷이나 스마트폰 같은 기술 혁신과도 비교하기 어렵다”며 “전기나 불의 발견에 더 가깝다”고 평가했다. 이어 “사회에 미칠 영향은 산업혁명의 10배 수준이면서 그 속도는 10배 더 빠를 수 있다”고 전망했다. AGI가 신약 개발과 청정에너지, 신소재 개발을 가속화해 인류에게 전례 없는 생산성과 풍요를 가져다줄 수 있다고도 강조했다.

“발전 속도, 인간의 이해 능력 앞질러”

특히 AI 경쟁이 지나치게 빠르게 전개되고 있는 점을 우려했다. 허사비스는 현재 AI 업계가 “극도로 치열한 상업적·지정학적 경쟁” 속에 놓여 있다며 기술 발전 속도가 인간의 이해와 위험 관리 능력을 앞서가고 있다고 진단했다. 이미 사이버 보안 분야에서 첨단 AI 모델의 위험 신호가 나타나고 있으며 앞으로 핵·생물학적 위협과 같은 국가안보 문제도 발생할 수 있다고 경고했다. 특히 자율적으로 행동하며 스스로 성능을 향상시키는 AI 시스템이 등장할 경우 통제 문제도 중요한 과제가 될 것이라고 지적했다.

이를 해결하기 위한 방안으로 그는 미국 금융산업규제기구(FINRA)와 유사한 형태의 ‘프런티어 AI 표준 기구’ 설립을 제안했다. 정부 감독 아래 민간과 공공이 함께 참여하는 독립 조직을 만들어 최첨단 AI 모델에 대한 평가 기준과 검증 절차를 마련하자는 것이다.

일정 수준 이상의 성능을 갖춘 AI 모델을 ‘프런티어급 모델’로 분류하고, 해당 모델을 개발한 기업을 ‘프런티어 연구소’로 지정하는 기구로, 기업들이 새 모델을 출시하기 최대 30일 전에 제출하면 안전성과 위험성을 사전 평가하는 체계를 구축해야 한다고 제안했다. 평가 대상에는 사이버 보안, 생물학적 위험, AI의 기만행위 여부, 안전장치 우회 시도 등이 포함된다.

미국이 먼저 만들고 세계 표준으로

그는 미국이 먼저 표준을 만든 뒤 이를 국제 규범으로 확대하자고 제안했다. 허사비스는 영국인이지만 “경제적·기술적 위상을 고려할 때 미국이 이와 같은 체계를 마련하는 첫걸음을 내딛는 데 유리한 위치에 있다”는 게 이유다.

그는 “이 기술은 전 세계에 영향을 미칠 것이기 때문에 장기적으로는 국제사회가 가장 심각한 위험을 관리하기 위한 공동 기준을 마련해야 한다”면서 “AGI가 도착하기 전 남은 시간을 활용해 인류 전체의 이익을 위한 방향으로 기술을 설계해야 한다”고 강조했다. 그러면서 현재의 선택이 향후 문명의 진로를 결정할 것이라며 AI 시대에 대한 사회적 논의와 국제적 공조를 촉구했다.

• 실리콘밸리=박지연 특파원jyp@hankookilbo.com