인공지능(AI) 반도체 기업 그래프코어(Graphcore)가 오픈소스 AI 분야를 선도하고 있는 허깅페이스(Hugging Face)와 머신 인텔리전스 혁신 가속화를 위해 손을 맞잡았다.
허깅페이스와 MOU, 최적화 트랜스포머 개발
인공지능(AI) 반도체 기업 그래프코어(Graphcore)가 오픈소스 AI 분야를 선도하고 있는 허깅페이스(Hugging Face)와 머신 인텔리전스 혁신 가속화를 위해 손을 맞잡았다.
그래프코어는 허깅페이스와 파트너십을 체결하고, 허깅페이스의 ‘하드웨어 파트너 프로그램(Hardware Partner Program)’에 참여해 머신 인텔리전스 혁신 가속화라는 양사의 공동 목표를 실현해 나갈 예정이라고 17일 밝혔다.
이로써 개발자들은 허깅페이스 하드웨어 파트너 프로그램을 통해 최소한의 코딩으로 그래프코어 IPU(Intelligence Processing Unit)에 최적화된 SOTA(State-of-the-Art) 트랜스포머 모델을 생산 규모로 구현할 수 있게 됐다.
IPU는 그래프코어의 데이터센터 컴퓨팅 시스템 IPU-POD의 기초가 되는 프로세서로, 특히 AI와 머신러닝(ML)에 요구되는 고유의 컴퓨팅 사양을 지원하도록 설계됐다. 세분화된 병렬 처리, 저정밀도 연산, 희소성 처리 능력과 같은 특성을 갖는다.
그래프코어 IPU는 GPU와 같은 SIMD/SIMT 아키텍처 대신, 실리콘 다이(die) 바로 위 프로세서 코어에 인접한 초고대역폭 메모리와 함께 대규모 병렬 MIMD 아키텍처를 사용한다. 이러한 설계는 BERT나 이피션트넷(EfficientNet)과 같이 오늘날 가장 널리 사용되는 모델의 구동은 물론, 차세대 AI 애플리케이션 탐색을 위한 획기적인 성능과 효율성을 제공한다.
그래프코어는 IPU 기능 극대화에 있어 소프트웨어의 중요성을 강조해왔다. 그래프코어는 창사 이래 모든 프로세서와 자사 소프트웨어 포플러(Poplar) SDK를 공동 설계하며 개발자들이 가장 많이 사용하는 타사 시스템과 호환이 가능하도록 했다. 개발자는 다른 컴퓨팅 플랫폼에서도 모델을 쉽게 포팅(port)해와 IPU의 성능적 이점을 활용할 수 있다.
허깅페이스는 이미 프랑스어 언어 CamemBERT를 비롯해, NLP에서 얻은 통찰을 컴퓨터 비전에 적용하는 ViT 등을 포함한 수백 개의 트랜스포머를 보유하고 있다. 허깅페이스는 이번 파트너십 체결을 통해 최상의 트랜스포머 툴세트를 그래프코어의 최첨단 AI 하드웨어와 결합시키며, AI 혁신 가속화에 속도를 낼 전망이다.
개발자들은 새로운 오픈소스 라이브러리 및 툴킷인 옵티머스(Optimus)를 사용해 허깅페이스 인증을 거친 하드웨어 최적화 모델을 활용할 수 있게 된다. 양사는 긴밀한 협업을 통해 해당 모델을 공동 개발 중으로, 2021년 말 그래프코어 IPU에 최적화된 첫 모델을 선보일 예정이다. 또한 개발 중인 모델은 시각, 음성, 번역, 텍스트 생성 등 광범위한 응용 분야에 적용될 것으로 기대된다.