최근 가전과 IoT 제품 등 주변 일상의 디바이스에 AI 기능이 탑재되고 있는 추세이다. 특히 이러한 엣지 디바이스에서의 AI 시스템은 엣지단에 AI를 수행하는 칩을 둠으로써 메인 모듈 혹은 프로세서가 상시 켜져 있을 필요성이 줄어들어 전력과 제품 수명 등의 효율을 도모할 수 있다.

감바랩스(Gambalabs)는 초경량 음성인식과 화자인식 기술을 가진 온디바이스 AI 기업으로 MCU와 같은 엣지 칩에 AI 모델을 포팅할 수 있는 모델 경량화 기술을 갖추고 있다. 이러한 AI 모델 경량화는 온디바이스 AI에 필수적인 기술로써 성능은 비교적 동일하게 유지하면서 모델 용량을 킬로바이트 수준까지 줄이는 것으로 높은 기술력과 노하우가 필요하다.

최근 추세는 주요 가전 제조사들이 차세대 가전제품에 키워드 음성인식을 탑재하려고 준비 중에 있으며, AI 기술 솔루션 업체들을 찾아나선 것으로 전해지고 있다. 

온라인 줌 인터뷰를 통해 만난 감바랩스 박세진 대표는 “감바랩스가 접근하는 방식은 AI 모델의 고성능·고효율도 중요하지만 가격 경쟁력에 가장 중점을 두고 있다”면서 하드웨어를 최적화하기 위한 자체 하드웨어 개발을 진행 중이라고 밝혔다.

‘1불 프로세서 2불 모듈’을 구호로 저렴한 온디바이스 AI 칩 공급을 목표하는 박세진 대표는 이를 ‘다이소 전략’이라고 칭하며 유쾌하게 말했지만 이는 진지한 비전임이 분명했다. 

현재 감바랩스는 에스프레시프, 르네사스, 누보톤 등 MCU사의 제품 테스트를 완료했으며, 이종의 MCU에 AI 모델이 자동으로 탑재되도록 만들어주는 VIOLA(Voice Interface Over Lightweight AI) 프레임워크를 구축했다.

이는 다양한 MCU 제조사가 있으며 단일 제조사에서 출시하는 MCU만 하더라도 수십종이 넘어간다. 이러한 다양한 MCU들에 AI 모델을 탑재하려면 이를 자동화하는 AutoML 프레임워크가 필수적인 것이다.

감바랩스는 VIOLA 프레임워크를 통해 다양한 사양의 MCU 하드웨어에 최적화하는 AI 모델 컨버팅을 빠르고 효율적으로 수행할 수 있다. 이러한 프레임워크를 비즈니스로 연결시키면 AI 모델 경량화 SaaS 솔루션 업체가 되는 것이지만 감바랩스가 지향하는 비즈니스 방향성은 아니다.

감바랩스는 개발한 음성인식 AI 모델을 활용해 고객사가 원하는 하드웨어 스펙, MCU 등에 맞춰 모델을 최적화하고 이러한 모델이 탑재된 칩/모듈 혹은 AI 모델 그 자체를 고객사에 공급하는 방향으로 시장 공략을 준비하고 있다.

△스마트조명 △키오스크 △로봇청소기 △생활·부엌가전 △도어락 △노트북 △자동차 등 다양한 애플리케이션에서 적용이 가능하며 현재 시장에서는 관련 제품들의 개발이 빠르게 진행되고 있는 상황이다.

박세진 대표는 “글로벌 MCU사들이 AI 모델링 라이브러리 및 개발 프레임워크 등을 제공하고 있지만 그것은 단순히 개발환경을 제공하는 차원일 뿐”이라면서 “실제로 테스트해보면 오인식·소음 환경에 대한 고려가 안 돼 있어 성능이 만족스러울 수 없다”고 지적했다.

현재 음성 및 화자인식에서 주요한 이슈는 △높은 오인식 △소음 환경 대응 등이 해결과제로 올라와 있어, 이에 대한 개발 노하우가 없다면 제품의 시장 경쟁력은 저하될 수밖에 없다.

박 대표는 “MCU에 올라가는 AI 모델 사이즈는 작아야 하며 30kbyte까지 음성인식 모델을 줄였고, 적정 사이즈는 50~60kbyte 정도이다”라며 “음성인식용 최적화된 양산형 모듈은 개발이 완료되었고, 화자인식용 모듈은 마무리단계, 궁극적으로 음성과 화자를 동시에 인식하는 초소형 인공지능 프로세서도 개발 중에 있다”라며 자신감을 드러냈다.

중소·중견 제조사에서부터 대기업에 이르기까지 온디바이스 AI 제품 개발에 나서면서 AI 경량화 솔루션을 갖춘 기업들의 생태계가 꽃피고 있다. 온디바이스 AI 생태계에서 스타트업들의 활약이 늘어날 것으로 예측되는 만큼 두각을 나타내는 ‘낭중지추(囊中之錐)’의 AI 스타트업이 어디가 될지 기대해봐도 좋을 것이다.