[편집자 주]AI 기술은 자율주행, 스마트홈, 스마트빌딩 등 다양한 분야에서 새로운 기회를 열고 있다. 데이터를 수집하는 모든 분야에서 AI의 적용사례는 끝이 없는데 이러한 AI도 중간 분석 없이 센서에서 클라우드로 데이터를 제공하는 중앙 집중식의 경우 보안, 응답성, 효율성 등의 한계가 존재한다. 이 한계를 극복하는 방안으로 딥 엣지 기술이 각광받고 있으며, 딥 엣지 기술은 컴퓨팅과 서비스를 클라우드에서 네트워크 가장 자리로 분산시켜 노드가 직접 결정을 내릴 수 있고, 응답성이 향상된다. 이에 딥 엣지 AI 장치의 수요 및 공급이 꾸준하게 증가할 것으로 전망되고 있고, 이에 따라 스마트 센서부터 주요 툴, 에코시스템까지 광범이한 솔루션과 전문성이 필요로 할 것으로 예상된다. 이에 본지는 마테오 마라비타(Matteo Maravita) ST마이크로일렉트로닉스 AI Competence Center(AI 역량센터) 센터장과 인터뷰를 통해 머신러닝과 AI 프로세스에 대해 들어보는 자리를 마련했다.

■ ST AI 역량 센터에 대한 소개를 부탁드린다

아시아태평양 지역 역량 센터는 도쿄, 타이페이, 홍콩, 선전 등의 지역에서 시스템 수준의 AI 프로젝트를 수행 중인 AI 엔지니어들로 이루어진 응용 팀이다.

저희는 대규모 ST 제품(MCU, MPU, 센서 등) 포트폴리오와 AI용 툴 에코시스템을 포괄하는 AI 프로젝트에서 고객을 지원하고 있다.

또한 머신 러닝이나 딥 러닝을 기반으로 하는 새롭고 흥미로운 개념 증명(PoC) 데모도 개발하고 있다.

■ 센터장님은 머신 러닝이 인간이 해결할 수 없는 문제를 해결할 수 있다고 하셨다. 머신 러닝에는 많은 양의 데이터가 필요한데요, 인간의 문제를 해결하기에 충분한 데이터를 수집하고, 이러한 데이터를 사용해 새로운 창의적인 솔루션을 찾아낼 수 있다고 생각하는지

그렇다. 일반적으로 머신 러닝 프로젝트의 핵심 단계는 소위 데이터 수집이라고 할 수 있다.

전통적인 머신 러닝 모델(의사결정 트리, SVM, 랜덤 포레스트 등)의 경우에는 데이터 양이 그렇게 많이 필요하지 않다.

반면에 딥 러닝의 경우에는 문제의 복잡성과 사용된 NN 모델에 따라 수천에서 수십만 개의 샘플을 수집해야 할 수도 있다.

새로운 머신 러닝 및 딥 러닝 접근 방식 덕분에 이제는 전통적인 알고리즘으로는 쉽게 해결할 수 없었던 여러가지 문제를 해결할 수 있게 됐다.

■ AI는 사람이 제공하지 않는 데이터를 센서를 이용해 수집할 수 있다고 들었다. AI가 인간이 처리하지 않은 데이터를 문제 해결에 필요한 정확한 데이터로 인식하고 이를 기반으로 신뢰할 수 있는 결과를 생성할 수 있다고 생각하는지

그렇다. 특히, NanoEdgeAI라는 새로운 라이브러리 및 툴 솔루션이 있는데, STM32 마이크로컨트롤러에서 직접 자가 학습을 수행한다.

설계 프로세스의 초창기 단계에는 사람이 제한적으로 개입하여 표준 운전 조건에서 초기 학습 기능을 실행할 수 있다.

그 이후에는 시스템이 센서에서 도출된 데이터를 계속 모니터링하면서 초기에 생성된 머신 러닝 모델을 자동으로 조정한다.

매개변수가 노화에 의해 영향을 받는 모터 또는 기계와 관련된 사용 사례에서 굉장히 유용하다.

전 세계적으로 몇몇 산업 고객들이 이미 NanoEdgeAI 솔루션을 성공적으로 구축해 현장에서 솔루션을 사용하고 있다.

■ 딥 에지 AI 디바이스란 무엇이며, 향후 시장 전망은

딥 에지 AI의 경우 마이크로컨트롤러, MPU 및 센서를 클라우드나 중앙 시스템에 연결할 필요 없이 머신 러닝이나 딥 러닝을 기반으로 자율적으로 AI 알고리즘을 수행하는 것을 뜻한다.

다수의 시장 보고서에 따르면 이러한 유형의 솔루션은 향후 3∼5년 동안 기하급수적으로 증가해 연간 시장 규모가 수십억 달러에 육박할 것이라고 한다.

ST마이크로일렉트로닉스는 기대에 부응해 이러한 시장 추세가 계속될 것으로 확신하고 있으며, 점차 딥 에지 AI에 중점을 둔 제품과 솔루션을 출시할 계획이다.

■ ST마이크로일렉트로닉스의 다양한 AI 구현 솔루션에 대해 알고 싶다

지난 2년 동안 ST의 AI 솔루션 포트폴리오는 몇 마디 말로는 설명하기 어려울 정도의 확장세를 유지하고 있다.

우선 센서부터 살펴보면 의사결정 트리 모델을 하드웨어로 구현한 소위 머신 러닝 코어가 통합된 새로운 MEMS 관성 센서 제품군이 있다.

STM32로 넘어가면, AI에 대한 최소한의 지식을 갖춘 엔지니어를 위해 설계된 Cube.AI 라이브러리가 있다.

이 라이브러리는 사전 훈련을 거친 전통적인 머신 러닝 및 딥 러닝 모델을 지원한다.

STM32에서는 디바이스 자체에서 자가 학습이 이루어지는 등 이상 감지, 예측적 유지관리 및 단순 분류를 위한 머신 러닝 모델을 겨냥한 NanoEdgeAI 라이브러리 및 관련 도구(NanoEdgeAI Studio)도 있다.

이 툴은 AI에 대한 지식이 전혀 없는 임베디드 엔지니어도 흥미롭고 안정적인 에지 AI 프로젝트를 생성할 수 있도록 지원다.

STM32MP1의 경우, Linux 환경에서 유명한 TensorflowLite 및 OpenCV 라이브러리도 기본적으로 지원한다.

앞서 언급한 제품과 라이브러리, 툴 외에도 광범위한 참조 데모 및 IP 포트폴리오를 보유하고 있어 고객이 몇 시간 또는 며칠 내에 모터 이상 감지, 인간 활동 인식, 사람 감지, 피플 카운팅, 이미지 분류, 객체 탐지, 3D 제스처 인식, 음향 장면 분류, 얼굴 식별 등 복잡한 개념 증명 프로젝트를 생성할 수 있도록 돕고 있다.

■ 딥 러닝 프레임워크나 덜 복잡한 머신 러닝 모델을 사용해 훈련한 AI 모델을 이식하는 데 STM32Cube.AI를 사용할 수 있다고 들었다. STM32Cube.AI에 대한 자세한 설명을 부탁한다

설계 프로세스에서 NN 모델을 설계, 학습 및 검증하기 위해서는 처음부터 주요 딥 러닝 프레임워크(Keras, Tensorflow Lite 등)를 사용해야 한다.

이 작업은 계산 측면에서 워크로드 규모가 상당하기 때문에 일반적으로 PC에서 수행된다(결국 더 복잡한 NN 모델의 경우에는 GPU가 장착됨).

NN 모델이 훈련되고 나면 STM32Cube.AI를 사용해 STM32용으로 ST가 특별히 개발한 C 언어 AI 라이브러리에서 이 모델을 번역할 수 있으며, 원래 Python 기반 모델과 똑같은 정확도를 유지하면서 메모리 할당 및 추론 계산에서 최고의 성능을 얻을 수 있다.

최근 STM32Cube.AI는 사이킷런(scikit-learn)을 통해 개발되고 ONNX 형식으로 내보내기가 되는 머신 러닝 모델도 지원하고 있다.

■ STM32 MCU를 사용하면 저렴하면서도 강력한 컴퓨터 비전 애플리케이션을 구현할 수 있다고 들었다. STM32 MCU가 어떻게 비용 효과적인 에지 AI 개발을 지원하는지 자세히 설명해 주시기 바란다

STM32Cube.AI, 특히 양자화된 8비트 모델 덕분에 STM32에서 몇 가지 컴퓨터 비전 NN 모델을 실행할 수 있게 됐다.

가장 간단한 NN 모델은 이미지 분류기이고, 가장 복잡한 모델은 객체 탐지 및 얼굴 식별 모델이다.

가장 복잡한 모델의 경우 ST AI 엔지니어들은 STM32 디바이스의 하드웨어 특성에 맞게 인기 있는 NN 모델을 ‘맞춤화’ 했다.

■ 마지막으로 독자들에게 한 말씀 부탁드린다

다양한 시장에서 ST 솔루션 기반의 딥 에지 AI 프로젝트에 대한 새로운 사용 사례와 시나리오를 고객과 함께 살펴볼 수 있어 굉장히 즐거웠다. 궁금한 점이 있으시면 언제든 연락주시기 바란다.

감사합니다.