[AI픽] LGU+, NPU 기반 온디바이스 AI로 '익시오' 혁신

엑사원 3.5 sLM 적용…전력 78%↓·보안성↑

(서울=연합뉴스) 박형빈 기자 = LG유플러스는 LG AI연구원, 옵트에이아이와 함께 대규모언어모델(LLM) '엑사원 3.5'을 기반으로 개발한 온디바이스 소형언어모델(sLM)을 AI 통화 앱 '익시오'에 적용할 방침이라고 25일 밝혔다.

온디바이스 기술은 AI 모델을 경량화해 스마트폰 등 단말기 내부에서 직접 구동하는 방식이다.

기존 LLM은 네트워크와 서버를 거쳐야 해 보안·속도·접근성 측면에서 제약이 있지만 온디바이스 sLM은 데이터가 외부로 전달되지 않아 보안성이 높다.

스마트폰 내 NPU(신경망처리장치)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고 다양한 단말에서 사용할 수 있다.

현재 익시오에 적용된 온디바이스 AI는 중앙처리장치(CPU)를 사용하고 있으나, NPU 기반 sLM을 도입하면 성능은 유지하면서도 전력 소모량은 78%, 모델 크기는 82% 줄일 수 있다는 게 회사 측 설명이다.

LG유플러스는 엑사원을 기반으로 한 온디바이스 sLM을 통해 ▲ 한 줄 요약 ▲ 상세 요약 ▲ 키워드 추출 ▲ AI 태스크 제안 등 익시오의 기능을 고도화할 방침이다.

특히 한국어 처리 성능이 우수한 엑사원과 통화 요약·텍스트 변환 기능의 결합으로 서비스 경쟁력이 강화될 것으로 기대한다.

송대원 LG유플러스 기술개발그룹장은 "앞으로도 온디바이스 AI 기술 고도화를 지속하여 초개인화된 온디바이스 에이전트를 선보이며 시장 내 선도 사업자로서의 입지를 한층 더 강화하고 차별화된 사용자 경험을 제공할 것"이라고 말했다.

binzz@yna.co.kr