[AI픽] 'AI 안전 생태계 계획' 연내 마련…정부 속도전(종합)

배경훈 부총리, 산학연 전문가와 간담회 주재

딥페이크·AI 에이전트 시대 피해 대비 강조

(성남=연합뉴스) 조성미 기자 = 정부가 인공지능(AI) 발전 속도에 따라 커지는 위험에 체계적으로 대응하기 위한 가칭 '국가 AI 안전 생태계 조성 계획'을 연내 마련한다.

배경훈 부총리 겸 과학기술정보통신부 장관은 23일 경기 성남시 인공지능안전연구소에서 산·학·연 전문가들과 간담회를 열어 국가 AI 안전 생태계 조성 계획의 추진 방향을 논의했다.

과기정통부는 최근 AI를 활용해 사람의 음성, 얼굴 등 정보를 합성, 조작하는 딥페이크를 악용한 피해가 커지고 다가오는 범용인공지능(AGI), AI 에이전트 시대에는 예상하지 못한 새로운 유형의 피해가 생길 우려가 있다며 AI 안전 생태계 조성 계획 필요성을 설명했다.

배 부총리는 간담회에서 "지금도 해킹 이슈가 심각한데 AI가 개입되면 걷잡을 수 없을 것"이라며 "AI를 통한 산업 진흥뿐 아니라 안전한 활용도 고민해야 하는데 논의의 장이 부족하다는 감이 있다"고 말했다.

그는 "몇 년 안에 개인이 AI 에이전트를 하나씩 활용하고, 에이전트끼리 소통하는 시대가 올 것"이라며 "내 아바타와 같은 AI 에이전트가 나를 완전히 왜곡하는 일이 생길 수도 있다"고 내다봤다.

이어 "AI 시대에 AI를 악용한 정보보호 문제가 생기지 않도록 총력을 다하겠다"며 "AI 안전연구소에서 기업이 하기 힘든 연구를 선제적이고 중장기적으로 수행해달라"고 당부했다.

간담회에서는 AI 위험 대응을 위한 기술 개발 현황과 딥페이크 방지 기술 등 AI안전 생태계 조성 방안도 논의됐다.

행사에는 김명주 AI안전연구소장·손지윤 네이버 AI RM 센터 전무·김유철 LG AI 연구원 전략부문장·김태윤 SK텔레콤 파운데이션 모델 담당·김민재 NC AI 최고기술책임자(CTO)·이승윤 업스테이지 WBL 센터장·이재호 서울시립대 인공지능학과 교수·최대선 숭실대 AI안전성연구센터장 등이 참석했다.

csm@yna.co.kr