앤스로픽 CEO “AI에 자동차·의약품처럼 엄격한 규제 도입해야”

실리콘밸리=박지연 특파원

“투명성 넘어 구속력 있는 규제 필요”
대규모 실업 대비 ‘기본소득 같은 장치’ 필요

다리오 아모데이 앤스로픽 최고경영자(CEO)가 2월 인도 뉴델리에서 열린 AI 임팩트 서밋에서 연설하고 있다. 뉴델리=로이터 연합뉴스

기업공개(IPO)를 앞둔 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 초고성능 인공지능(AI) 모델이 초래할 수 있는 위험을 막기 위해 정부가 더 강력한 규제 권한을 가져야 한다고 주장했다. 대부분 빅테크 기업들이 AI 규제 완화를 요구하는 와중에 정반대 입장을 내놓은 것이다.

아모데이는 10일(현지시간) 공개한 장문의 에세이에서 “고성능 AI 모델은 항공기와 마찬가지로 기술 테스트와 감사를 거쳐야 하며, 높은 안전 기준을 충촉하지 못하면 공중 보건에 대한 위협으로 판단해 출시를 차단하거나 철회할 수 있어야 한다”고 주장했다. 그는 “이제 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때”라며 “가장 적절한 비유는 자동차나 항공기, 의약품이라고 본다. 현대 경제에 필수적인 강력한 기술이지만, 잘못 설계되거나 운용되면 많은 사람을 죽일 수 있는 것들”이라고 말했다.

아모데이는 자신도 3년 전까지는 투명성 중심의 소극적 접근을 지지했으나, 자사의 ‘클로드 미소스 프리뷰’가 나온 후 사이버보안 지형을 뒤흔들면서 더 강력한 규제가 필요하다고 여기게 됐다고 밝혔다.

AI에 의한 대규모 일자리 대체에 대한 대책 마련의 필요성도 강조했다. 아모데이는 “AI는 이전 기술들보다 규모도 크고 더 지속적인 노동시장 교란을 초래할 수 있으며, 경제가 ‘초고성장·초불평등’에 고착되고 거기서 빠져나오기 매우 어려운 세상이 될 위험이 있다”고 경고했다. 그는 이런 세상에선 성장보다 모두가 혜택을 나누는 방법을 찾는 것이 더 중요하다고 강조했다.

이를 위해 설사 비효율적이더라도 해고를 막고 고용을 유지하기 위한 인센티브 정책 등이 필요하며, 만약 AI가 노동 수요를 영구적으로 감소시킬 경우 보편적 기본소득 같은 장기 소득 지원도 필요하다고 주장했다. 다만 고용 충격에 대한 대응은 단순히 금전적 지원만을 넘어 사람들이 일을 통해 삶의 의미나 목적, 주체성을 찾아야 할 필요성까지도 다뤄야 한다고 제언했다.

한편 아모데이는 이날 공개된 블룸버그 인터뷰 프로그램 ‘더 서킷 위드 에밀리 창’에서 2월 어린이 120여 명이 숨진 이란 초등학교 미사일 공습에 대해 “끔찍한 일”이라면서도, 자사 인공지능(AI) 모델 ‘클로드’ 사용 여부에 대해선 “모른다”고 답했다. 그는 “우리가 확립한 원칙은 인간이 최종 결정을 내린다는 것이며, 이번 사건에서도 그 원칙이 지켜졌다”며 오히려 이 공습이 ‘AI 지원하에서도 인간 통제가 중요하다’는 걸 보여주는 사례라고 강조했다.

아모데이는 미국 이민세관단속국(ICE)·세관국경보호국(CBP)의 이민 단속과 팔레스타인 가자 지구에는 클로드가 쓰이지 않는다고 부인했다. 반면 미 국방부 군사 작전에 클로드가 활용되는 것 자체는 문제없다는 입장을 분명히 했다. ‘더 많은 사람을 더 빨리 죽이는 데 일조하는 것 아니냐’는 날 선 질문에는 “본질적으로 ‘이 나라(미국)를 믿느냐고 묻는 셈”이라며 “애국자로서 미국이 세계 무대에서 더 강력한 행위자가 되기를 바란다”고 답했다.

• 실리콘밸리=박지연 특파원jyp@hankookilbo.com