[AI TECH+ 2025] ETRI 호남권연구본부, 병렬 NPU 기반 온디바이스 AI 플랫폼 기술 등 선보여

병렬 신경처리장치(NPU) 기반 온디바이스 인공지능(AI) 플랫폼 제품.

한국전자통신연구원(ETRI) 호남권연구본부(본부장 강현서)는 15~17일 사흘간 광주 김대중컨벤션센터에서 열리는 ‘AI TECH+ 2025’에 참가해 △병렬 신경처리장치(NPU) 기반 온디바이스 인공지능(AI) 플랫폼 기술 △ 온디바이스 ALT(ASR-SLM-TTS) 시스템 기술을 선보인다.

ETRI는 이번 전시회에서 AI 연구개발(R&D) 성과를 공유할 계획이다.

ETRI가 개발한 병렬 NPU 탑재 온디바이스 AI 플랫폼 기술은 여러 개의 NPU를 동시에 활용해 단일 장치에서 다중 AI 모델의 병렬 추론을 가능하게 한다. 이 플랫폼은 객체 검출, 얼굴 인식, 포즈 추정, 화염 탐지 등 다양한 시각지능 서비스를 하나의 장치에서 실시간으로 수행할 수 있다. 각 모델 간 간섭 없이 독립적으로 동작하도록 최적화된 병렬 연산 파이프라인 구조를 구현했다.

또한, 원격 서버와의 협력형 계층 구조로 이상 상황에 대한 실시간 경보 및 고차원 분석 기능을 제공함으로써 AI 폐쇄회로(CC)TV와 로봇 비전, 스마트팩토리 등 다양한 분야에 적용할 수 있다.

온디바이스 ALT 제품.

온디바이스 ALT 시스템은 네트워크 연결이 제한된 환경에서도 음성 인식, 언어 이해, 음성 합성을 통합적으로 처리할 수 있는 초경량 대화형 AI 시스템이다. 이 기술은 독자적인 소형언어모델(sLLM)과 검색증강생성(RAG) 기술을 결합해 특정 분야 전문 지식에 대한 고속·고품질의 응답을 생성한다.

특히 라즈베리파이 5와 같은 저사양 임베디드 장치에서도 원활하게 구동될 정도로 최적화돼 로봇·가상비서·챗봇·스마트홈 등 오프라인 환경에서도 보안성과 효율성을 모두 확보할 수 있다.

ETRI 호남권연구본부는 광주·전남지역 산업 기반의 정보통신기술(ICT) 및 AI 융합 R&D를 선도하는 연구 거점이다. 광통신, 에너지, AI 등 지역 주력 산업과 연계한 핵심 기술을 개발하고 이를 중소·중견기업에 이전GO 기술 사업화를 촉진하는 역할을 수행하고 있다.

이번 전시회에서 공개하는 온디바이스 AI 기술은 ETRI의 엣지컴퓨팅응용서비스연구실에서 개발했다. 최근 2년간 총 15건의 기술이전 성과를 달성, 누적 기술료는 3억3000만원에 이른다. 향후 온디바이스 AI 분야의 핵심 기술 이전을 더욱 확대하고, 참여 기업과의 공동 연구 및 사업화로 국내 AI 산업 생태계 확장에 기여할 계획이다.

강현서 본부장은 “정부출연 연구기관으로서 기술사업화 유망기술을 확산시켜 대한민국 온디바이스 AI 생태계의 저변을 확대하고자 한다”며 “병렬 NPU, sLLM등 온디바이스 AI 플랫폼 기술을 지역 기업에 적극 이전해 지속 가능한 기술 상용화와 산업 혁신을 실현하겠다”고 말했다.

AI-TECH+ 2025 포스터.

〈이 기사는 광주관광공사의 협찬을 받아 게재되었습니다.〉

광주=김한식 기자 [email protected]