방미통위, 딥페이크 양산 논란 AI 그록에 청소년 보호 요청

청소년 보호 계획 수립, 결과 회신 통보

김종철 위원장 "AI 제공자 대상 청소년 보호 의무 부과 추진"

(서울=연합뉴스) 조성미 기자 = 방송미디어통신위원회가 인공지능(AI) 챗봇 서비스 그록이 딥페이크 성 착취물을 양산한다는 논란에 대해 청소년 보호 장치를 마련할 것을 요청했다고 14일 밝혔다.

방미통위는 그록 서비스를 제공하는 엑스(X) 측에 유해 정보로부터 청소년을 보호하기 위한 청소년 접근제한 및 관리 조치 등 보호 계획을 수립해 결과를 회신해 줄 것을 통보했다.

엑스는 정보통신망법에 따라 청소년보호책임자를 지정해 방미통위에 통보할 의무가 있고 매년 청소년보호책임자 운영 실태와 관련한 자료를 제출하고 있다.

방미통위는 최근 출시된 그록 서비스에 대해서도 청소년 보호와 관련한 자료를 요청했다.

방미통위는 엑스 측에 당사자 의사에 반해 딥페이크 성 착취물을 제작, 유통, 소지 및 시청하는 행위가 국내 형사처벌 대상이라는 점을 전달했다.

일론 머스크가 운영하는 AI 기업 xAI는 최근 엑스에서 그록을 사용해 딥페이크 이미지를 생성하는 서비스를 내놨다.

엑스에 올려진 여성·미성년자 등의 이미지를 다른 사용자가 동의 없이 딥페이크 이미지로 만들어 올리는 사례가 속출하면서 각국에서 비난 여론이 높아지고 있다.

미국에서는 민주당 소속 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코) 등 3명이 지난 9일 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 엑스 앱을 앱스토어에서 퇴출하라고 요구했다.

김종철 방미통위원장은 "새롭게 도입되는 신기술의 부작용과 역기능에 대해 합리적 규제를 해 나갈 계획"이라며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법 정보 유통 방지 및 청소년 보호 의무 부과 등을 추진해 나갈 계획"이라고 말했다.

csm@yna.co.kr