AI 딥페이크 기술 확산에…"디지털성범죄 게시글 4년새 3.6배"

국힘 신성범 "방심위, AI 활용 모니터링 기술개발 등 새로운 대응 필요"

(서울=연합뉴스) 김정진 기자 = 딥페이크 기술을 활용한 불법 영상물 등 디지털 성범죄 관련 온라인 게시글을 시정하라는 요구 건수가 최근 4년 새 3배 이상 증가한 것으로 나타났다.

국회 과학기술정보방송통신위원회 소속 신성범 의원이 26일 방송통신심의위원회로부터 제출받은 '온라인 불법 유해정보 시정요구 현황'에 따르면 최근 5년간 방심위가 시정 요구를 내린 온라인상 불법 유해 정보는 115만8천196만여건으로 집계됐다.

연도별로는 2021년 14만2천807건, 2022년 23만4천263건, 2023년 25만4천818건, 2024년 34만6천686건으로 꾸준히 증가했다. 올 1∼8월은 17만9천621건에 대해 시정요구가 이뤄졌다.

2021년부터 올 8월까지 시정이 요구된 게시글을 유형별로 보면 디지털 성범죄 관련이 29만354건으로 가장 많았다.

이어 도박(28만9천532건), 성매매(24만9천221건), 불법 식·의약품(17만1천448건) 순으로 나타났다.

디지털 성범죄 관련 게시글의 경우 시정요구 건수가 2021년 2만5천879건이었으나 지난해에는 9만4천186건으로 3.6배가 증가했다. 이는 인공지능(AI)을 활용한 딥페이크 불법 영상물이 큰 폭으로 증가했기 때문으로 분석된다.

신 의원은 "방심위는 AI를 활용한 모니터링 기술 개발, 국내외 포털·SNS 사업자 자율규제·심의 강화 등 기존과 다른 방식의 대응이 필요하다"고 말했다.

stopn@yna.co.kr