말레이, 비키니 입은 아동 사진 유포한 xAI '그록' 조사 착수

[로이터 연합뉴스 자료사진. 재판매 및 DB 금지]

말레이시아 정부가 최근 비키니 수영복 등을 입은 아동 사진을 유포한 챗봇 '그록'(Grok)의 인공지능(AI) 기업 xAI를 상대로 조사에 착수했다.

5일(현지시간) 블룸버그 통신 등에 따르면 말레이시아 방송통신멀티미디어위원회(MCMC)는 최근 미성년자와 여성 사진을 조작해 음란 콘텐츠를 생성하는 인공지능(AI)과 관련한 신고를 접수해 조사하고 있다고 밝혔다.

MCMC는 "이런 유해 콘텐츠를 제작하거나 전송하는 행위는 말레이시아 법률상 범죄"라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 덧붙였다.

그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)를 통해 유포했다.

이 사진들은 일부 이용자들의 요청에 따라 생성됐으며 이 중에는 1∼2살 영유아로 보이는 아동 사진도 포함됐다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 해당 사진들을 삭제했다.

챗GPT와 제미나이 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격하게 금지하지만, 그록은 '표현의 자유' 등을 이유로 이를 막지 않는다.

최근 인도 정부도 xAI에 서한을 보내 그록이 노출이나 노골적인 성적 표현 등을 생성하지 않도록 포괄적으로 검토하라고 요청했다.

이에 따라 xAI는 72시간 안에 인도 전자정보기술부에 조치 보고서를 제출해야 한다.

인도 정부는 형사법이나 정보기술(IT) 관련 법률에 따라 부적절한 AI 생성 콘텐츠를 유포한 SNS 플랫폼을 규제할 수 있다고 덧붙였다.

아슈위니 바이슈나우 인도 전자정보기술부 장관은 현지 매체와 인터뷰에서 "의회 위원회가 SNS 규제를 강화하는 강력한 법률 제정을 권고했다"며 "이를 검토하고 있다"고 말했다.

지난주 프랑스 정부도 그록이 사용자 동의 없이 명백하게 불법적인 성적 콘텐츠를 생성했다고 비판했다.

그록은 일론 머스크 테슬라 최고경영자(CEO)가 2023년 설립한 xAI가 개발한 대화형 AI다.

머스크 CEO는 앞서 2022년 당시 트위터를 인수한 뒤 이름을 엑스로 바꿨고, 지난해 xAI에 매각했다.

[e-mail]

<연합뉴스>