챗GPT를 중심으로 초거대 AI 시장이 커지고 있는 가운데 말단(Edge, 엣지)에서의 MCU급 반도체에 인공지능 및 머신러닝 기술 탑재도 굉장히 활발한 상황이다. 이에 글로벌 MCU 제조사들은 AI 역량을 가진 기업과 협업하며 자사 제품에 엣지AI 성능 향상에 집중하고 있다.

대만 반도체 기업 누보톤(Nuvoton Technology Corporation)이 스카이마이저(Skymizer)와 협업해 NuMaker-M467HJ 평가 보드와 스카이마이저의 ONNC ML 최적화 조합을 통해 Cortex-M4 MCU 카테고리에서 ‘MLPerf Tiny 벤치마크(Benchmark)’ 리더십을 달성했다고 최근 발표했다.
 
누보톤 M467 시리즈 MCU는 일반적인 200MHz에서 동작하는 Arm Cortex-M4F를 사용하는데, 일반적인 Cortex-M4F 대비 67% 빠르다. 이는 이 컨트롤러가 스카이마이저의 신경망 기술을 활용해 ML 소프트웨어 최적화와 결합한 결과 동종 업계 최고 추론 성능을 달성할 수 있었다고 설명했다.
 
ML커먼스(MLCommons)는 독자적인 머신 러닝 성능 벤치마킹 협력 조직으로, 광범위한 시스템의 ML 성능을 평가하는 신뢰할 수 있는 표준으로 자리잡았다. MLPerf Tiny 벤치마크의 경우, △가상 웨이크 워드 △키워드 스팟팅 △이미지 분류 △오디오 변칙 감지 등 임베디드 시스템에서 실행되는 실용적인 ML 사용 사례에 집중하고 있다.
 
누보톤 M467 시리즈는 △SRAM 512KB △플래시 메모리 1024KB △DSP △FPU △DMA △CAN-FD △I2S △USB △카메라 인터페이스 △암호화 가속기 △10/100 이더넷 MAC을 비롯한 풍부한 통합 시스템 기능 및 주변장치 세트로 구성돼 있다.
 
이러한 기능으로 시스템 설계자는 타이니ML(TinyML)을 △스마트 홈 자동화 △스마트 시티 및 인프라 △IoT의 라이트 엣지 AI △스마트 제조 등의 애플리케이션에 통합하는 장치 구축 사례에 적합한 선택지가 될 수 있다.
 
스카이마이저의 ONNC 컴파일러는 M467 시리즈 Cortex-M4F를 위한 머신러닝 소프트웨어 스택을 최적화하는 데 중요한 역할을 했다. 그 결과 추론 속도에서 주목할 만한 성과가 나왔으며, 머신러닝 애플리케이션의 전반적인 성능이 향상됐다.
 
누보톤과 스카이마이저의 협업은 전력 효율적인 임베디드 시스템에 ML을 위한 최첨단 솔루션을 제공을 목표로 한다. 누보톤 측은 하드웨어의 우수성과 소프트웨어 최적화가 결합해 MCU에서 ML 기반 애플리케이션의 가능성을 열었다고 자평했다.
 
누보톤 측은 “MLPerf Tiny 벤치마크의 Cortex-M4 MCU 부문에서 달성한 이러한 성과는 누보톤과 스카이마이저가 리소스에 제약이 있는 환경에서 머신 러닝 성능의 한계를 극복하려고 한 노력을 방증하고 있다”고 덧붙였다.