딥 러닝 가속기 아키텍처에 프로젝트 트릴리움 플랫폼

엔비디아는 Arm과 글로벌 시장을 겨냥한 수십억 대의 모바일, 가전제품, 사물인터넷(IoT) 디바이스에 딥 러닝 추론 기능을 적용하기 위한 파트너십을 체결한다고 발표했다. 

엔비디아와 Arm은 파트너십을 통해 오픈소스 엔비디아 딥 러닝 가속기(NVIDIA Deep Learning Accelerator, 이하 NVDLA) 아키텍처를 Arm의 머신 러닝을 위한 프로젝트 트릴리움(Project Trillium)플랫폼에 통합시킬 것이라고 밝혔다. 이번 협력으로 IoT 칩 기업들은 보다 쉽게 설계에 인공지능을 적용하고 합리적인 가격의 지능형 제품을 전세계 수십억 명의 소비자들에게 제공할 수 있게 된다.

엔비디아의 자율주행기계 담당 총괄 책임자 겸 부사장인 디푸 탈라(Deepu Talla)는 "추론 작업은 미래에 모든 IoT 디바이스의 핵심 역량으로 자리잡을 것"이라며, "Arm과의 파트너십을 통해 수백 개의 칩 기업들이 딥 러닝 기술을 더욱 쉽게 도입할 수 있게 해 이러한 흐름을 주도할 것이다”라고 설명했다.
 
Arm의 IP그룹 총괄 책임자 겸 수석부사장인 르네 하스(Rene Haas)는 "약 1조 개의 IoT 디바이스를 연결한다는 Arm의 비전을 실현하려면 무엇보다 엣지(edge)에서의 인공지능 가속이 중요하다"며, “Arm 프로젝트 트릴리움 플랫폼에 NVDLA를 도입해 전반적인 생태계가 양사의 AI와 IoT 분야 전문성과 역량에 힘입어 이러한 비전에 한 걸음 더 다가 설 수 있게 되었다"고 밝혔다.

세계에서 가장 강력한 기능을 갖춘 자율주행을 위한 시스템 온 칩(System-on-a-Chip, SoC)인 엔비디아 자비에(NVIDIA Xavier) 기반 NVDLA는 딥 러닝 추론 가속기 설계를 위한 표준화된 방법을 촉진하는 개방적인 아키텍처다. 특히 모듈형 아키텍처를 통해 확장성이 높고, 구성이 간단하며, 통합 및 이식성을 단순화하도록 설계됐다.

NVDLA는 딥 러닝 추론 적용을 빠르게 하는 많은 이점을 제공한다. NVDLA는 프로그래밍 가능한 딥 러닝 가속기 텐서RT(TensorRT)의 차기 버전을 포함한 엔비디아의 강력한 개발자용 툴의 지원을 받는다. 오픈소스 설계로 연구 커뮤니티 등에서 엣지 장치에 첨단 기능을 정기적으로 추가 할 수 있다. 

NVDLA와 Arm의 프로젝트 트릴리움 통합은 딥 러닝 개발자들이 광범위한 분야의 IoT 디바이스에 Arm의 유연성과 확장성을 적용해 최고의 퍼포먼스를 낼 수 있는 기반을 마련할 것이다. 

무어 인사이트 앤 스트래티지(Moor Insights & Strategy)의 딥 러닝 수석 전문가인 칼 프로인드(Karl Freund)는 두 기업의 파트너십에 대해 "양사의 파트너십은 IoT, 모바일 및 임베디드 칩 기업들이 가속화된 인공지능 추론 솔루션을 설계함에 있어 윈윈(win-win) 효과를 낳을 것"이라며, "인공지능 분야의 독보적 선도 기업인 엔비디아와 IoT 분야의 선두주자인 Arm이 IP 분야에서 파트너십을 맺은 것은 매우 합리적이다"라고 설명했다.