그래프코어는 지난 6일 한국전자통신연구원 ETRI)와 AI 컴퓨팅 개선 및 새로운 소프트웨어 개발을 위한 파트너십을 체결했다고 밝혔다. 이어 7일에는 미디어 컨퍼런스를 진행해 최신 MLPerf 결과를 발표했다. MLPerf 2.0 벤치마크 테스트에서 ‘보우(Bow) Pod16’는 엔비디아 ‘DGX-A100 640GB’보다 31% 더 빠른 훈련시간을 기록해 업계 최고 성능을 입증했다고 밝혔다.
▲페브리스 모이잔(Fabrice Moizan) 그래프코어 글로벌 세일즈 수석 부사장
그래프코어·ETRI, 거대 한국형 AI 모델·SW 개발 협업
MLPerf 테스트 빠른 훈련시간…엔비디아比 31% 앞서
초지능 AI ‘굿컴퓨터’ 개발 착수, ML 시장 핵심 주력
[김예지의 인사이트 - 기업편] 자연어 처리를 위한 MLPerf 2.0 벤치마크 테스트를 통해 IPU 업계 최고 성능을 입증한 그래프코어는 고효율 AI 컴퓨팅을 위한 새로운 SW 접근법을 개발 중인 ETRI와의 맞손으로 한국형 AI 반도체 시장에 본격적으로 뛰어들었다.
그래프코어는 지난 6일 한국전자통신연구원 ETRI)와 AI 컴퓨팅 개선 및 새로운 소프트웨어 개발을 위한 파트너십을 체결했다고 밝혔다.
자연어 처리(NLP)를 위한 AI 모델 규모는 기하급수적으로 증가해왔고, 수조 개에 달하는 매개변수를 효율적으로 처리하는 거대 AI 모델 훈련은 점점 까다로워지고 있다.
그래프코어와 ETRI의 파트너십은 AI 컴퓨팅 성능·효율성·접근성을 개선하며, 단일 시스템 및 기술에 대한 소유 부담과 의존성을 줄이는 새로운 소프트웨어 접근법 개발을 목표로 한다. 그래프코어는 “단순히 칩에 중요성을 두지 않고, 거대 언어 모델 연구에 집중해 자연어 처리의 효율적인 방안을 모색하겠다”고 전했다.
이어 7일에는 미디어 컨퍼런스를 진행해 최신 MLPerf 결과를 발표했다. MLPerf 2.0 벤치마크 테스트의 폐쇄형 부문에서 ‘보우(Bow) Pod16’는 엔비디아 ‘DGX-A100 640GB’보다 31% 더 빠른 훈련시간을 기록해 업계 최고 성능을 입증했다고 밝혔다.
▲강민우 그래프코어 한국 지사장
7일 행사는 페브리스 모이잔 그래프코어 글로벌 세일즈 부사장, 강민우 그래프코어 한국 지사장, 필 브라운 대형 시스템 개발 기획 부사장 등이 참석해 그래프코어의 △한국 비즈니스 현황 △국내외 고객 사례 △AI 산업 트렌드 △그래프코어 IPU 시스템 △초지능 AI 컴퓨터 Good™ 컴퓨터’ 소개 등 세션으로 구성됐다.
그래프코어가 개발한 차세대 AI 반도체 지능처리장 ‘IPU’는 이미 광범위한 AI 애플리케이션에 걸쳐 성능적 이점을 제공하고 있다. 그래프코어는 두뇌 수준의 매개변수를 능가하는 초지능 AI 컴퓨터 ‘굿 컴퓨터(Good Computer)’를 뒷받침할 차세대 IPU 기술을 개발 중에 있다고 밝혔다.
특히 그래프코어는 국내 후발주자임을 인지하고 스타트업 등과 상생하기 위해 AI 개발자부터 같이 투입돼 최적화 작업을 함께 제공할 예정이라고 밝혔다. ‘트위그팜’은 전략적 협업을 통해 기존 GPU 대비 10배 향상된 성능 제공 및 비용 절감을 달성한 국내 사례다.
그래프코어는 “인간의 뇌의 라우팅 기능에서 착안한 선택적인 활성화로 효율적인 접근 필요하다”며, “GPU와 다르게 IPU는 태생 자체가 AI에 특화된 칩으로 그래프코어의 최종 설계 목표는 인간의 뇌에 가까운 AI를 만드는 것”이라고 말했다.
IPU에 활용될 패키징 등 공정 기술에 대해서는 “굿컴퓨터 시스템이 미래에 채택하게 될 공정 기술에 대해서 상세하게 언급하기는 어렵다”고 말했지만, “패키징 기술 특히 3D 웨이퍼 통합 관련해 좀 더 정교화하고 개발하고 더 많은 혁신을 이끌어낼 것이다”고 말했다.
데이터센터의 지속가능성 등 ESG 경영 관한 이슈와 관련해 “에너지 효율성도 굿컴퓨터을 통해 개선코자 하는 핵심적인 요소”이며, “적은 수의 프로세스를 투입해도 똑같은 효과를 내기 때문에 이와 같은 메모리와 컴퓨터 간 향상된 균형으로 대규모 모델뿐만 아니라 소규모의 모델 부분에서도 에너지 효율성 달성할 수 있을 것”이라고 덧붙였다.
마지막으로 그래프코어는 “한국은 미국, 중국을 능가하는 중요한 AI 시장이다. 우리나라 정부 정책에서 국산 AI 반도체를 강조하고 있으며, ETRI와의 협업을 포함해 그 중요도는 더욱 커질 것이다”며 “AI 시장 내에서도 핵심적으로 주력하고 있는 것은 머신러닝(ML)이며, IPU를 개발한 근본적 이유”라고 덧붙였다.
▲사진참고. 6일 그래프코어-ETRI 업무협약 체결식 (사진=그래프코어)