"가짜뉴스·편향성 막아라"…日민관, '안전한 AI' 개발 협력

(서울=연합뉴스) 최이락 기자 = 일본 정부와 소프트뱅크가 생성형 인공지능(AI)의 안전성을 확보하고 신뢰할 수 있는 토종 AI를 개발하기 위해 본격 협력에 나선다.

26일 요미우리신문 등에 따르면 총무성 산하 정보통신연구기구(NICT)와 소프트뱅크의 AI 개발 계열사는 생성형 AI의 보안과 신뢰성 강화를 위한 공동 연구 개발을 진행하기로 했다.



그동안 생성형 AI는 가짜뉴스 등 잘못된 정보 유통과 편향된 답변 등의 문제점이 노출되며 논란이 돼 왔다.

양측은 인간의 가치관에 부합하도록 AI를 제어하는 기술, AI 안전성 평가 시스템, 잘못된 정보·유해 표현 감지 및 억제 방법 등을 함께 개발할 계획이다.

NICT는 고정밀 답변에 필요한 방대한 일본어 데이터와 정보 진위 점검 시스템을 개발해 제공하게 되며, 소프트뱅크는 이를 활용해 자사의 거대언어모델(LLM)인 '사라시나'의 안전성과 성능을 고도화하게 된다.

앞서 NICT는 AI 벤처인 '프리퍼드 네트웍스'와도 AI 공동 개발에 나선 바 있어 이번 소프트뱅크와의 결합으로 일본 내 국산 AI 개발을 위한 민관 공조 체제는 더욱 강화될 것으로 요미우리는 전망했다.

choinal@yna.co.kr