온디바이스 AI를 비롯한 AI 기능 탑재 제품·솔루션 개발이 시장 전반과 산업계에서 활발하게 일어나고 있다. 내년부터 본격적으로 마이크로 엣지 영역에서부터 초거대 언어모델을 이용하는 서버까지 광범위하게 AI 융합이 확산될 것으로 전망되는 가운데 엣지 영역 AI 반도체 블루오션을 차지하기 위한 경쟁도 치열해지고 있다.

AI 반도체 팹리스 기업 딥엑스가 23일 서울 강남구 코엑스 반도체대전(SEDEX) 2024에 참가해 DX-M1 M.2 모듈 기반 최신 AI 모델인 비전 언어 모델(VLM; Vision Language Model)을 온디바이스에서 다채널로 구동하는 실시간 데모를 선보였다.

딥엑스는 AI 반도체를 개발하는 국내 대표 팹리스 기업으로, 2024년 한해 동안 대만, 중국, 일본, 유럽, 미국 등 전세계를 돌며 제품을 전시·공개하며 120여개 글로벌 기업들에 샘플을 제공해왔다. 이에 현재 20여개사와 양산 제품 개발 협력 중에 있다고 밝혔다.
현장 부스에는 딥엑스에서 강조하는 저전력으로 인한 저발열을 테스트할 수 있는 ‘버터 발열 테스트’가 진행 중에 있었다. AI 연산 과정에서 경쟁사 보드 대비 발열이 낮은 측면을 ‘버터’를 통해 관람객들에게 가시적으로 보여주는 퍼포먼스를 벌인 것이다.

이는 DX-M1 칩이 가진 동일 성능 대비 저전력 장점을 강조한 이벤트이며, 현재 AI 반도체 시장을 둘러싼 주요한 챌린지는 △비용 △성능 △전력 소모 △사이즈 △상호운용성 등에 기인한다.

특히 전력 효율성은 ESG 측면에서나 AI 서버 제품의 운영 비용, 온디바이스 AI 제품에서의 배터리 성능 효율 등에 영향을 미치며 고객사들의 중요 고려사항으로 떠오른 실정이다. 딥엑스 측은 “GPU의 전력 소모와 발열 문제를 해결해야 되는데 딥엑스 주력 NPU 기술은 GPU 대비 20배 전력 및 발열 등의 효율성을 제공한다”고 밝혀 시장의 요구사항을 충족하고 있다.

서버급 제품 DX-H1 PCIe 모듈은 글로벌 서버 업체인 HP, 케이투스와의 협력으로 최신 객체 인식 AI 알고리즘을 100채널 이상 실시간으로 구동하는 데모를 현장에서 선보였으며, 스마트 카메라, 로봇 플랫폼, 산업용 임베디드 시스템, 서버 및 데이터센터 등에 적용 가능한 다양한 실시간 데모들로 이목을 집중시켰다.
 
이아형 딥엑스 팀장은 “기업들이 새로운 제품 개발에서 AI 반도체를 탑재해 좀 더 지능형 혹은 무인화 방향으로 만들겠다는 니즈가 엄청나다”고 말하면서, “지능형 CCTV에서 딥엑스의 첫 양산이 나올 수 있을 것으로 전망하며 산업용 PC에서도 협력이 다수 진행되고 있다”고 전했다.

이 팀장은 “팹리스가 아직은 레퍼런스 부재로 신뢰성이 부족한 만큼 제품의 일부 양산 적용을 통해 시장의 반응과 제품 신뢰성을 확인한 이후 물량이 증가할 것으로 예상한다”면서, “딥엑스는 B2B 제품에서 레퍼런스를 만들고 시장 점유율을 구축할 계획이다”라고 밝혔다.

한편, 최근 온디바이스 AI 및 AI 반도체 기업들은 솔루션 및 소프트웨어 스택을 갖추는 것 또한 필수적으로 요구된다. AI 최적화·경량화 기술을 요함과 동시에 이종 하드웨어 간의 상호호환·운용성을 갖추는 역량 또한 요구되기에 하드웨어-임베디드-소프트웨어(AI) 간 협업이 무엇보다 중요하다.

딥엑스는 70명에 육박하는 개발팀 인력 가운데 60% 이상이 소프트웨어 스택을 개발·지원하는 인력들로 고객사들이 AI 모델을 딥엑스 개발환경에서 드래그 앤 플레이로 개발할 수 있도록 자동화된 프레임워크를 제공하고 있는 것으로 전했다.