‘AI(인공지능)가 잠재적 위협?’… 안보리 첫 논의나서

이달 18일 회의 주요안건, AI 전문가·구테흐스 총장 등 “구호·평화유지 활동 도움·심각한 안보문제도 제기”

유엔 안전보장이사회(안보리)가 인공지능(AI)이 인류 평화와 안보에 미칠 수 있는 위협을 논의하는 회의를 이달 중순 처음으로 연다.

3일 AP 통신에 따르면 이달 안보리 순회 의장국인 영국의 바버라 우드워드 주유엔 대사는 오는 18일 예정된 회의의 주요 안건으로 AI가 포함됐다고 밝혔다.

제임스 클레벌리 영국 외무장관이 주재할 이번 회의에서는 급진전하고 있는 AI 기술에 대한 국제 전문가들의 견해를 청취하고 15개 이사국이 그 영향에 대한 논의를 이어갈 예정이다.

안토니우 구테흐스 유엔 사무총장도 브리핑에 나선다. 구테흐스 사무총장은 지난달 AI 고도화에 대한 경계와 대응을 촉구한 바 있다. 그는 당시 “과학자들과 전문가들은 AI가 핵전쟁과 같은 정도로 인류에 대한 실존적 위협이 되고 있다고 선언하며 전 세계에 대응을 촉구하고 있다”고 말했다.

구테흐스 사무총장은 그러면서 올해 9월 AI 자문위원회를 만들어 유엔의 대응 계획을 구체화하겠다고 밝혔다. AI 대응을 위한 새로운 유엔 기구의 모델로는 지식 기반 기구이지만 규제 권한도 일부 보유한 국제원자력기구(IAEA)를 제시하기도 했다.

우드워드 대사는 “AI가 우리 모두에게 제기하는 엄청난 기회와 위험의 양면을 모두 다루는 다자적 접근을 촉진하고자 한다”고 밝혔다.

그는 먼저 AI가 유엔 개발 프로그램과 인도주의 구호활동, 평화유지 및 분쟁 예방 등을 지원할 수 있다는 측면에서 이점이 크다고 제시하고, “AI가 선진국과 개발도상국간 격차를 좁히는 데 도움이 될 수도 있다”고 설명했다.

그러나 동시에 심각한 안보 문제도 제기하는 만큼, 이에 대응할 방안도 다뤄야 한다고 우드워드 대사는 강조했다. 인간이 하는 것과 비슷한 글과 이미지, 음성과 영상 등을 생성할 수 있는 AI 도구가 급격히 고도화하면서 정보 조작과 허위정보 확산으로 인류의 생존이 위협받을 수 있다는 위기감이 커지고 있다.

이에 따라 세계 각국과 주요 기구는 AI 통제를 위한 움직임에 분주히 나서고 있다.

유럽연합(EU)은 이같은 움직임에서 선두에 있다. 지난달 14일 유럽의회는 AI에 대한 세계 최초의 포괄적 규정안을 의결해 AI 규제에 한발 더 나아갔다.

대화형 AI 챗GPT의 창시자인 샘 올트먼 오픈AI 창업자 겸 최고경영자(CEO)는 지난 5월 연방 상원에서 열린 청문회에 출석해 AI 개발자들 사이에서도 우려가 크다면서 이를 규제할 기구가 필요하다고 말했다. 그는 이런 기구들은 가장 강력한 AI 시스템에는 허가를 내주고 안전기준에 부합하지 않으면 면허를 박탈하는 등 권한을 가져야 한다고 주장했다.