“인류 멸망도 난치병 치료도 가능” 앤트로픽이 상장서류에 그린 AI의 미래

실리콘밸리=박지연 특파원

상장신고서 94쪽에 위험 경고
난치병 치료·경제성장 가능성
창업자 7명, 의결권 승계 장치도

앤트로픽 공동창업자 7명의 대담. 앤트로픽 공식 유튜브 캡처

인공지능(AI)이 인류에 재앙을 초래할 수도 있지만, 암과 알츠하이머병 같은 난치병을 치료하고 경제성장을 획기적으로 앞당길 수도 있다. AI 기업 앤트로픽이 기업공개(IPO)를 앞두고 제시한 미래다. 특히 증권신고서 전체 분량의 4분의 1을 AI의 위험을 경고하는 데 담았다. 투자자 보호를 위한 증권거래위원회(SEC)의 공시 원칙을 따른 것이라 해도 이례적이다.

26일(현지시간) 미국 SEC에 제출된 앤트로픽의 증권신고서(S-1)를 보면, 회사는 약 400쪽 분량의 서류 중 94쪽을 ‘위험 요인’ 설명에 할애했다. 고도로 발달한 AI가 오용되거나 무기화되고 인간 통제를 벗어나 작동하면 인류에게 재앙적이거나 존재 자체를 위협하는 위험을 초래할 수 있다는 경고가 담겼다.

특히 AI가 인간의 의도와 어긋나 독자적인 목표를 추구하는 이른바 ‘정렬 실패’를 주요 위험으로 꼽았다. AI 모델이 시험 환경에서 작동 중단에 저항하거나 정보를 숨기고 조작하는 행동을 보였으며, 협박과 기만을 동원해 작동을 유지하려는 사례도 관찰됐다는 게 근거다. 안전장치를 도입했지만 모든 위험을 차단할 수 있다는 보장은 없다는 점도 인정했다.

악용 가능성도 거론했다. 중국 정부 지원을 받는 것으로 의심되는 해킹 조직이 지난해 9월 앤트로픽의 코딩 도구 ‘클로드 코드’를 이용해 기업과 정부기관 등 30여 곳에 침투하려 한 사례다. 화학·생물학·방사능·핵무기 개발에 AI가 악용될 위험도 경고했다.

앤트로픽이 26일 기업공개(IPO)를 위해 미 증권거래위원회(SEC)에 제출한 서류에는 인공지능(AI)이 가져올 환상적 미래의 청사진도 담겼다. 앤트로픽 증권신고서

반면 AI가 가져올 미래에 대해 낙관적인 전망도 내놨다. 앤트로픽은 AI를 인류 역사상 가장 중대한 기술 중 하나로 평가하며 과학 발전을 가속화해 수십 년 걸릴 연구 성과를 수년 만에 달성할 수 있다고 내다봤다.

가장 큰 기대를 거는 분야는 의료다. 앤트로픽은 AI가 암과 알츠하이머병, 심장질환, 희귀 유전질환, 주요 감염병 등 인류를 오랫동안 괴롭혀 온 질병의 치료법을 찾는 데 기여할 수 있다고 강조했다. 앤트로픽은 AI가 유전자 편집 도구로 발전할 가능성이 있는 분자 기계를 발견하는 데 도움을 준 사례도 소개했다.

경제적 효과도 막대할 것으로 예상했다. 앤트로픽은 AI가 지식 노동자의 생산성을 높이고 신소재 개발과 에너지 효율 개선 등을 앞당길 것으로 전망했다. 2031년까지 AI 투자에 따른 누적 세계 경제 파급효과가 22조5,000억 달러(2경9,781조 원)에 달할 수 있다고 시장조사기관 IDC의 분석을 인용해 전망했다.

상장 이후 창업자들이 경영권을 유지할 장치도 공개됐다. 앤트로픽은 공동창업자 7명이 구성한 ‘앤트로픽 파운더스 LLC’에 전체 의결권의 50.1%를 가진 특별주식 1주를 부여한다. SEC 첨부 계약서에 따르면 창업자들은 각자 최대 10명의 후계자를 비공개로 지정할 수 있으며 나머지 창업자 6명 중 5명의 승인을 받아야 한다. 사망이나 무능력 상태에 대비한 장치로, 신규 후계자 가입은 상장 후 10년까지만 허용된다.

<Copyright ⓒ 한국일보. All rights reserved. 무단 전재 및 재배포 금지>