캐나다도 16세 미만 SNS 금지 추진…AI챗봇도 규제 대상

문재연 기자

AI챗봇 윤리기준 의무화
폭력·자해 암시 메시지엔
상담센터 및 기관 연결해야

챗GPT 개발사 오픈AI의 로고. 로이터 연합뉴스

마크 카니 캐나다 정부가 10일(현지시간) 16세 미만 아동·청소년의 청소년 사회관계망서비스(SNS) 이용을 제한하는 법안을 발의했다. 캐나다 정부는 이날 하원에 메타·엑스(X)와 같은 SNS 기업이 일정 수준의 안전을 충족하지 못할 경우 16세 미만 청소년의 가입을 막는 ‘소셜미디어 안전법(Safe Social Media Act)’을 발의했다.

법안은 SNS 기업에 16세 미만 이용자의 계정 보유를 막을 효과적인 연령확인 및 추정 조치를 두도록 하고 있다. 새로 설립될 ‘디지털안전위원회’가 정한 아동 보호 안전 기준을 충족하지 않으면 16세 미만 아동의 이용이 제한된다. 안전 기준을 충족한 플랫폼은 예외를 적용받을 수 있다.

법안은 게시물의 특성에 따라 7종의 ‘유해 콘텐츠’를 규정하고, 플랫폼 기업으로 하여금 노출을 줄이거나 제한할 것도 명시했다. 특히 △아동 성착취물 △동의 없이 유포되거나 생성된 이미지 등 2종은 플랫폼에서 게시가 확인되면 24시간 안에 캐나다에서의 접근을 차단해야 한다.

AI챗봇에 대해선 연령 제한 대신 운영 기업이 ‘책임 있게 행동할 의무’를 명시했다. 이용자가 자살 생각이나 자해, 타인에 대한 중대 위해 의사를 표현할 경우 챗봇은 즉시 대화를 중단하고 이용자를 자살예방상담센터 등 관련 기관에 바로 연결해야 한다. 챗봇 운영업체는 청소년을 보호하기 위한 신고·대응 기준도 공개하고, 구체적인 내용을 담은 ‘디지털 안전계획’을 위원회에 제출해야 한다.

이는 2월 발생한 총격 사건과 유사한 피해 사례가 발생하는 것을 차단하기 위한 조치라고 현지 매체 CBC는 전했다. 브리티시컬럼비아주 텀블러리지에서 9명이 숨진 총기 난사 사건의 용의자(18세)는 사건 발생 1년 전인 지난해 6월 챗GPT에 총기를 이용한 여러 폭력 시나리오를 입력한 것으로 나타났다. 하지만 개발사 오픈AI는 이를 당국에 알리지 않았다. 유가족은 현재 오픈AI를 상대로 소송을 제기한 상태다.

법안이 명시한 의무를 이행하지 않는 기업은 글로벌 매출의 3% 또는 최대 1,000만 캐나다 달러(약 109억5,000만 원) 중 더 많은 쪽을 과징금으로 내야 한다. 형사처벌에 이를 경우 매출의 5% 또는 2,000만 캐나다 달러 중 더 큰 금액으로 벌금 부과가 가능하다.

마크 밀러 캐나다 정체성·문화부 장관은 기자회견에서 “이 법안의 조치들은 자녀의 온라인 안전을 위해 부모와 국민이 갖는 최소한의 기대”라며 SNS 설계 단계부터 안전을 확보하도록 요구하는 데 방점이 있다고 설명했다. 다만 법안이 통과되고 위원회가 꾸려지기까지 1년 6개월가량이 걸릴 전망이다.

최근 아동 보호를 명목으로 청소년들의 SNS 사용을 제한하려는 움직임은 전 세계로 이어지고 있다. 지난해 12월 호주는 세계 최초로 16세 미만 SNS 이용을 금지하는 법을 시행했다. 유럽의회는 유럽연합(EU) 회원국 공통 SNS 이용 최소 연령을 16세로 권고하는 결의를 채택했다. 말레이시아와 영국·스페인·덴마크·프랑스 등이 비슷한 규제를 추진 중이며, 중국은 사이버 규제 당국이 연령별 사이버 접속 시간을 제한하는 정책을 운영하고 있다.

• 문재연 기자munjae@hankookilbo.com