생성 인공지능(AI)과 거대 언어 모델(LLM)이 주목을 받고 있지만, 얼마나 많은 AI가 이미 임베디드 디바이스에 배포되어 있는지, 그리고 가정, 도시 및 산업 전반의 애플리케이션에 어떤 영향을 미치고 있는지 모르는 경우가 많다. 이를 지능형 사물인터넷(AIoT)이라고 하며, Arm을 기반으로 구축되고 있다.
Cortex-M52, 저비용 IoT 디바이스에 AI 기능 제공
별도 디바이스 없이 DSP 지원으로 면적·비용 절감
생성 인공지능(AI)과 거대 언어 모델(LLM)이 주목을 받고 있지만, 얼마나 많은 AI가 이미 임베디드 디바이스에 배포되어 있는지, 그리고 가정, 도시 및 산업 전반의 애플리케이션에 어떤 영향을 미치고 있는지 모르는 경우가 많다. 이를 지능형 사물인터넷(AIoT)이라고 하며, Arm을 기반으로 구축되고 있다.
Arm 홀딩스가 전용 디지털 신호 처리(DSP) 및 머신러닝(ML) 가속기의 비용 부담 없이 성능 향상을 요구하는 AIoT 애플리케이션을 위해 설계된 Arm Cortex-M52를 23일 발표했다. Cortex-M52는 임베디드 컴퓨팅 솔루션에서 ML을 현재보다 저렴한 비용으로 제공할 수 있는 잠재력을 제공할 예정인 것으로 전해진다.
Arm의 수석 부사장 겸 IoT 사업부 총괄 매니저인 폴 윌리엄슨(Paul Williamson)은 “AIoT 기술이 발전함에 따라 온디바이스 인텔리전스는 더 작고, 비용에 민감하며, 주로 배터리로 구동되는 디바이스에 가장 낮은 비용으로 배포되고 있으며, 디바이스의 클라우드에 대한 의존도를 낮추어 프라이버시 및 신뢰성 향상에도 기여하고 있다”며 “AI 지원 IoT의 출하량이 계속 증가하면서 파트너는 더 많은 ML 기능과 보다 간단한 개발 흐름에 액세스해야 하며, 이를 통해 파트너는 빠르게 혁신하고 확장할 수 있는 민첩성을 제공할 수 있다”고 전했다.
■ 광범위한 IoT 디바이스에 AI 기능 제공
Cortex-M52에는 소형 저전력 임베디드 디바이스를 위한 DSP 및 ML 애플리케이션에서 상당한 성능 향상을 제공하는 Arm Helium 기술이 포함됐다. 전용 NPU 없이도 엔드포인트에 컴퓨팅 집약적인 ML 추론 알고리즘을 배포할 수 있다. Helium 기술은 이미 네트워크 최전선에 있는 제품에서 구현됐지만, Arm의 파트너는 Cortex-M52를 통해 이 기능을 저비용의 전력 제한 디바이스에 적용할 수 있다.
Arm은 Helium 기술을 새로운 Cortex-M클래스로 확장하여 소형 임베디드 디바이스를 위한 마이크로컨트롤러의 매트릭스 및 DSP 컴퓨팅을 획기적으로 개선하고 있다. Cortex-M52는 Cortex-M33 및 Cortex-M4에서 마이그레이션하기 위한 간소화된 경로를 제공하여 오토모티브 및 산업 제어, 예측 정비(predictive maintenance), 웨어러블 센서 융합과 같은 보다 풍부한 UI, 음성 및 비전 경험을 지원하는 광범위한 AIoT 애플리케이션을 처리한다. Cortex-M52는 다양한 성능 포인트 및 구성에 걸쳐 확장을 위해 필요한 유연성을 제공하며, 별도의 처리 장치 없이 DSP 기능을 제공함으로써 실리콘 면적과 비용을 절감한다.
AIoT는 Arm에서 실행되며, Arm은 파트너들과 함께 DSP 및 ML 컴퓨팅 성능을 저전력 임베디드 애플리케이션에 시장을 위한 더 합리적인 비용과 액세스 포인트 제공해야 할 필요성을 확인했다. Cortex-M52 CPU는 초소형 디바이스에서 더 높은 수준의 AI 추론 성능을 제공하여 업계가 IoT 디바이스 배포를 더욱 확장할 수 있도록 지원한다.
■ 보안과 함께 최적 성능·비용 선택 제공
Cortex-M52는 마이크로컨트롤러에 ML 기능을 제공하는 데 있어 중요한 이정표인 새로운 효율성 지점으로 Armv8.1-M Cortex-M 라인업(Cortex-M55 및 Cortex-M85 포함)을 확장한다.
이는 Helium 지원 Cortex-M 제품군 중 가장 낮은 면적과 전력을 구현해 성능과 비용 사이에서 고민하는 반도체 업계에 선택권을 제공한다. Cortex-M52는 이전 세대에 비해 ML 성능이 최대 5.6배, DSP 성능이 최대 2.7배 향상돼 개발자들은 ML 및 DSP 성능이 모두 향상되는 이점을 누릴 수 있다.
보안은 특히 대규모로 출시되는 디바이스에서 여전히 중요하며, Cortex-M52는 향상된 소프트웨어 위협 완화 기능을 제공하는 PACBTI 및 Arm 트러스트존(TrustZone) 기술 등 Armv8.1-M을 위한 최신 보안 확장을 구현한다.
또한, Cortex-M52는 PSA 인증 레벨 2 실리콘을 구현하는 과정을 가속화해 차세대 PSA 인증 디바이스를 구현할 수 있다. 최신 Armv8.1-M 코어(Cortex-M55 및 Cortex-M85 포함)는 많은 오토모티브 및 산업용 제어 애플리케이션에서 기능 안전 기능을 제공한다. Cortex-M52는 이와 같이 확장된 안전 패키지 및 기능을 제공해 파트너가 이러한 애플리케이션에 배포되는 이전 세대의 Cortex-M에 비해 보다 빠르고 쉽게 FuSa 인증을 획득할 수 있도록 지원한다.
■ 초소형 엔드포인트 디바이스의 AI 개발 간소화
기존 임베디드 개발자는 AI에 필요한 수학, 데이터 분석, 툴체인 전문 지식 및 프로그래밍 기술을 갖추는 것에 어려움을 겪고 있다. AIoT 출하량이 증가하기 위해선 개발자에 대한 지원이 필수적이며, Arm Cortex-M52는 오늘날 최신 개발 흐름에 필요한 핵심 기능을 제공한다.
과거에는 Cortex-M52가 제공하는 ML 및 DSP 성능을 달성하려면 CPU, DSP, NPU를 조합해야 했기 때문에 하드웨어가 구축되면 개발자는 3개의 툴체인, 3개의 컴파일러, 3개의 디버거(debugger) 등을 사용해 칩의 코드를 작성, 디버그 및 튜닝해야 했다.
이제 Arm은 업계 표준의 사용자 친화적인 Arm Cortex-M 포트폴리오를 통해 단일 툴체인과 검증된 단일 아키텍처에서 AI를 구현할 수 있게 되었다. 이를 통해 기존 DSP 및 ML 워크로드에 대한 통합된 개발 흐름이 보장되며, 선도적인 머신러닝 프레임워크에 대한 특정 통합 및 최적화로 개발자는 원활한 경험을 할 수 있으며, 모든 Cortex-M에서 최고의 성능을 얻을 수 있다.
Cortex-M52는 Cortex-M55 및 Cortex-M85와 완벽하게 소프트웨어 호환이 가능하므로 개발자는 Helium을 중심으로 성장하는 소프트웨어 및 툴 에코시스템뿐만 아니라, 무료 소프트웨어 라이브러리 및 Arm 파트너 에코시스템의 광범위한 지식 기반을 활용하고 혜택을 누릴 수 있다.
IoT 및 임베디드 개발 프로세스를 간소화하고 가속화할 수 있도록 Cortex-M52는 실리콘보다 앞서 소프트웨어를 개발할 수 있도록 하는 클라우드 기반 제품인 Arm 가상 하드웨어(Arm Virtual Hardware)에서도 사용할 수 있다.