AI 추천시스템, 빅테크 기업 주요 수익 모델
KAIST, PIM 기반 AI 가속기 반도체 시스템 개발
PIM, 메모리에 AI 연산 기능 추가한 차세대 반도체


국내 연구진이 프로세싱인메모리(Processing-In-Memory; PIM) 기술을 기반으로 AI 추천시스템 학습 알고리즘 가속에 최적화된 지능형 반도체 시스템 개발에 성공했다.

한국과학기술원(KAIST) 전기 및 전자공학부 유민수 교수 연구팀은 16일, PIM 기술 기반의 메모리 중심 AI 가속기 반도체 시스템을 개발했다고 밝혔다.

AI 추천시스템 알고리즘은 구글, 아마존, 유튜브, 페이스북 등 빅테크 기업들이 콘텐츠 추천 및 개인 맞춤형 광고를 제작하는데 기반이 되는 AI 기술이다. 온라인 광고를 통한 수입은 구글과 페이스북과 같은 실리콘밸리의 빅테크 기업의 주 수익 모델인 만큼 고도화된 추천 AI 기술에 대한 수요는 최근 들어 급상승하는 추세다.

페이스북이 최근 공개한 자료에 따르면, 페이스북 데이터센터에서 처리되는 AI 연산의 70%가 추천 알고리즘을 처리하는 데에 사용되며, AI 알고리즘 학습을 위한 컴퓨팅 자원의 50%를 추천 알고리즘을 학습하는 데 사용하고 있다.

이에 연구진은 메모리 반도체에 AI 연산 기능이 추가된 PIM 기술 기반의 지능형 반도체 시스템을 개발하는 데 성공했다.

프로세서, 메모리, 프로그램의 세 가지 요소로 구성된 폰 노이만 구조는 표준적인 컴퓨터 구조다. 메모리는 프로그램을 저장하고, 프로세서는 저장된 프로그램을 메모리로부터 넘겨받아 처리한다. 그러나 프로세서는 메모리보다 빠르므로 지연을 피할 수 없는 구조다.

PIM 기술은 CPU와 RAM을 하나의 반도체로 통합하는 기술로, 메모리 중심 설계라 볼 수 있다. 연구팀 관계자는 개발한 시스템이 AI 추천시스템 알고리즘의 학습 과정을 엔비디아의 GPU를 사용하는 기존 AI 가속 시스템 대비 최대 21배까지 빠르다고 설명했다.

이번 연구 성과는 앞으로 큰 수요 증가와 급성장이 예상되는 세계 AI 반도체 시장에서 메모리 중심으로 설계된 PIM 기술의 상용화와 성공 가능성을 시사한다는 점에서 의미가 크다고 연구진은 밝혔다.

한편, 해당 연구 결과는 내년 2월, IEEE가 주최하는 국제 고성능 컴퓨팅 구조 심포지엄(HPCA)에서 발표될 예정이다.