교황 “AI 인간 지배 안돼…무장해제해야”

손효숙 기자

“소수 권력·이익 강화 수단 막아야”
“전쟁, 국제정치 수단 정당화 안돼”

레오 14세 교황이 8일 이탈리아 나폴리에서 일정을 마치고 떠나며 한 아이를 살피고 있다. 나폴리=AP 뉴시스

레오 14세 교황이 25일(현지시간) 즉위 후 첫 회칙에서 인공지능(AI)은 인간을 위해 봉사해야 하며 소수의 권력과 이익을 강화하는 수단이 돼서는 안 된다고 강조했다.

바티칸뉴스 등에 따르면 레오 14세는 이날 서명한 첫 회칙 ‘위대한 인간성: 인공지능 시대에 인간을 수호하는 일’에서 “인류는 지금 새로운 바벨탑을 쌓을 것인지 아니면 하느님과 인간이 함께 거주하는 도시를 건설할 것인지 중대한 선택의 기로에 서 있다”고 진단했다. 레오 14세는 회칙에 △공익(공공선) 재화의 보편적 목적 △보조성 △연대 △사회 정의 등 5대 원리 아래 노동부터 전쟁에 이르기까지 인간을 보호하기 위한 제언을 담았다.

레오 14세는 AI와 기술에 대해 효율성·이윤을 절대 기준으로 삼는 태도를 지적했다. 그는 “가장 강력한 기술이 가장 좋은 기술은 아니다”며 “AI는 인간을 모방·시뮬레이션할 수 있으나 도덕적 양심·공감·정서·관계·영적 능력을 갖고 있지 않다”고 말했다. 이어 “AI 개발 전 과정에서 책무성을 분명히 해야 한다”며 “사회정의에 기반한 공통 윤리 기준이 필요하다”고 강조했다.

레오 14세는 AI 무장해제를 주장했다. 그는 “AI를 군사·경제·인지 경쟁의 논리에서 해방시키고 ‘기술적 힘이 자동으로 통치 권리를 준다’는 가정을 부정해야 한다”며 “무장해제는 기술을 거부하는 것이 아니라, 기술이 인간을 지배하지 못하도록 하는 것”이라고 말했다. 그러면서 “인간의 한계를 제거하는 방향으로만 기술혁신을 추구하면 ‘인류학적 퇴행’이 벌어질 것”이라며 “기술이 고통을 줄이고 새로운 가능성을 열어줄 수 있지만 인간의 본질인 관계·사랑의 능력을 부정해서는 안 된다”고 말했다.

레오 14세는 또 전쟁을 국제 정치의 도구로 정당화하는 권력을 비판했다. 그는 “다자주의의 위축·불신, 무질서한 다극 체제 속에서 ‘강자의 법’이 법치·공익을 대체했다”며 “국제기구의 심층 개혁을 통해 공익에 봉사하는 새 가치 체계를 세우자”고 제안했다.

한편 레오 14세는 이날 AI 스타트업 앤스로픽 공동창업자를 연사로 초청했다. 앤스로픽은 AI 기술 접근권을 둘러싸고 도널드 트럼프 미국 행정부와 법정 공방을 벌이고 있다.

• 손효숙 기자shs@hankookilbo.com