과학기술정보통신부가 17일~18일 이틀 간 삼성동 코엑스 그랜드불룸에서 '2023 인공지능대학원 심포지엄'을 개최했다. 초거대 AI 모델뿐만 아니라 각 서비스에 합리적인 비용을 만족하기 위해 중규모 AI 모델의 모듈화 및 경량화 연구가 필요하다는 전문가의 주장이 제시됐다.
이번 CES 2024에서는 퍼스널 AI 컴퓨팅을 본격화하는 칩 솔루션들이 대거 등장하고 있다. 생성형 AI 기능을 강화하는 GPU에서부터 AI PC를 가능케하는 데스크톱 프로세서, 그리고 모바일 AI 컴퓨팅 시대를 여는 프로세서의 등장까지 본격화되고 있다. 이는 매우 광범위한 엣지·로컬 영역에 퍼스널 AI 하드웨어가 침투하고 있음을 의미한다.
서버단에서 AI 연산을 했을 때 발생할 수 있는 레이턴시 문제와 프라이버시 등의 우려를 해소하고 PC 및 엣지 디바이스의 AI 기능에 성능 향상 가져오는 AI 프로세서가 올 한 해를 수놓을 것으로 전망된다.
최근 가전과 IoT 제품 등 일상 주변의 디바이스 등에 AI 기능이 탑재되고 있는 추세이다. 특히 이러한 엣지 디바이스에서의 AI 시스템은 엣지단에서 AI를 수행하는 칩을 둠으로써 메인 모듈 혹은 프로세서가 상시 켜져 있을 필요성이 줄어들어 전력 효율을 도모할 수 있다.