[AI픽] 생성형 AI 콘텐츠 검증 지침으로 AI 학습 출처 밝힌다

TTA, 벡터 유사도 분석 기반 AI 콘텐츠 검증 지침 표준화

(서울=연합뉴스) 조성미 기자 = 한국정보통신기술협회(TTA)는 생성형 인공지능(AI)의 학습·생성 과정 검증 지침을 연내 표준화한다고 27일 밝혔다.

챗GPT, 나노바나나 등 생성형 AI로 누구나 손쉽게 이미지나 영상을 만들 수 있게 된 가운데 딥페이크 음란물 등 유해 콘텐츠 범람 방지나 콘텐츠 무단 학습 시 제작권 문제 등이 해결 과제로 떠오르고 있다.

하지만, 생성형 AI는 방대한 딥러닝 모델을 통해 학습·생성 과정이 내부적으로 처리되는 탓에 검증이 까다롭다.

이에 한국정보통신기술협회는 벡터 유사도 기반 콘텐츠 검증 지침을 표준화한다고 설명했다.

검증의 기준이 되는 참조 데이터셋과 분석 대상인 AI 생성 콘텐츠의 특정 벡터를 각각 추출해 비교하는 방식으로 유해 AI 콘텐츠를 걸러내거나 AI 학습에 활용된 원본 데이터를 가려낼 수 있다.

csm@yna.co.kr