네트워크가 연결되지 않은 상태에서의 디바이스 내부 AI 구현, 즉 온디바이스 AI 기술은 차세대 시장 선점의 중요한 제품 기능으로 자리매김하고 있다. 초기 시장 선점에 글로벌 기업들이 각축전을 벌이고 있는 가운데 AI 역량이 부족한 개발사·제조사도 손쉽게 온디바이스 AI 구현을 가능케하는 SW-HW 솔루션 기업들이 한자리에 모였다.

2024 Start On-Device AI 컨퍼런스(이하 2024 SODA)가 오는 10월 15일 서울 강남역 인근 한국컨퍼런스센터 대강당에서 개최한다.

e4ds가 주관하는 이번 행사는 ‘온디바이스 AI 기술 동향·전망과 AI 임베디드 제품 개발 전략’을 주제로 ST마이크로일렉트로닉를 비롯해 △기조연설 대구대 김경기 교수 △감바랩스 박세진 대표 △노타AI 조석영 매니저 △코드주 장병남 대표가 발표 연사로 참여한다.

제품 개발자 및 기획자, 임베디드 개발자 등을 대상으로 AI SW, HW 영역을 망라하는 세션 발표들이 이어질 예정이다. AI SW-HW 개발 사이의 간극을 좁혀줄 것으로 기대된다.

온디바이스 AI가 2024년 최대 트렌드 기술로 떠오른 상황에서 초기 시장 선점과 타임투마켓이 그 어느때보다 중요한 시기이다. 가전 메이커서부터 PC, 모바일, 모빌리티, IoT에 이르기까지 크고 작은 제품 모두에 로컬 엣지 기반 AI 탑재와 개발이 진행되고 있다.

반면, 현직에 활동하는 AI 개발자는 소수에 불과하고 중소기업뿐 아니라 대기업조차 제조분야에서는 AI 전문가 모시기가 하늘의 별따기만큼 어렵다는 볼멘소리도 나오는 실정이다. 이에 국내 제조업의 AI 역량 해결이 시급한 상황이다.

2024 SODA에서는 기업이 사용하는 개별 칩에 AI 모델 임베디드를 최적화하는 AI 모델 경량화·최적화 솔루션 기업 2곳이 나와 AI SW 솔루션을 발표한다. 

감바랩스는 초경량 음성인식과 화자인식 기술을 가진 온디바이스 AI 기업으로 MCU와 같은 엣지 칩에 AI 모델을 포팅할 수 있는 모델 경량화 기술을 갖추고 있다. 2024 SODA에서 ‘On-Device AI & TinyML : 음성인식·화자인식 IoT 임베디드 시스템으로 구현, TinyML을 위한 하드웨어 모듈 개발’에 대해 발표할 예정이다.

주식회사 노타는 삼성·LG·네이버·카카오 등 국내 주요 기업들로부터 투자를 유치한 IT 스타트업으로 엔비디아, Arm, 퀄컴, 르네사스, ST 등 글로벌 반도체 기업과의 공식 파트너십을 맺고 있다. 2024 SODA에서는 ‘온디바이스 AI를 위한 하드웨어 인지 AI 모델 최적화 솔루션 및 성공 사례’에 대해 발표한다.

2부에서는 HW 솔루션에 대해 발표한다. △장병남 코드주 대표 ‘온디바이스 AI 제품 개발 및 적용 사례’ △ST ‘STM32 MCU 기반 AI 솔루션 및 AI 데모’가 예정돼 있다. 하드웨어 관점에서 AI 모델을 임베디드하고 제품을 개발하는 방법론과 케이스 스터디가 진행될 예정이다.

기조연설에는 대구대 김경기 교수가 ‘온디바이스 AI 기술 트렌드 및 전망’에 대해서 발표한다. 

현재 얼리버드 등록자를 위한 50% 할인 이벤트가 진행 중에 있으며, 2024 SODA 홈페이지에서 접수하고 있다.