엔비디아는 에지 단 로봇 및 임베디드 컴퓨팅 디바이스용 초소형 AI 슈퍼컴퓨터 젯슨 자비에 NX를 발표했다. 젯슨 자비에 NX는 70x45mm 크기의 소형 폼 팩터로 10W 동작 시 최대 14TOPS, 15W 동작 시 21TOPS의 성능을 제공한다. 엔비디아는 최근 데이터센터와 에지에서 AI 추론 성능을 측정하는 MLPerf Inference 0.5의 5개 벤치마크 테스트 기준을 모두 충족했다. 젯슨 자비에 NX 모듈은 이 벤치마크에 사용된 자비에 SoC의 저전력 버전이다.
젯슨 제품군 신제품 자비에 NX 발표
15W 동작 시 최대 21TOPS 연산 성능
쿠다-X AI 소프트웨어 아키텍처 적용
클라우드 없이 에지 단에서 자체적으로 AI 추론이 가능할 전망이다.
엔비디아는 7일, 에지 단 로봇 및 임베디드 컴퓨팅 디바이스용 초소형 AI 슈퍼컴퓨터 ‘젯슨 자비에 NX(Jetson Xavier NX)’를 발표했다.
▲엔비디아 젯슨 자비에 NX (사진=엔비디아)
젯슨 자비에 NX는 70x45mm 크기의 소형 폼 팩터로 10W 동작 시 14TOPS, 15W 동작 시 21TOPS의 성능을 제공한다.
GPU로는 엔비디아 쿠다(CUDA) 코어 384개와 텐서 코어 48개, NVDLA 2개를 포함한 엔비디아 볼타(NVIDIA Volta)를 탑재했으며, 6MB L2 및 4MB L3 캐시 메모리를 포함한 6코어 Carmel Arm 64비트 CPU를 사용한다.
메모리로는 8GB 128비트 LPDDR4x가 탑재되어 초당 51.2GB의 데이터 처리가 가능하다. 또한 고속 CSI와 PCIe에서 저속 I
2C와 GPIO에 이르는 다양한 IO를 제공한다.
다른 젯슨 제품군과 동일한 쿠다-X AI 소프트웨어 아키텍처를 적용했으며, AI 소프트웨어 스택인 엔비디아 젯팩(NVIDIA JetPack) SDK가 지원된다.
엔비디아는 최근 데이터센터와 에지에서 AI 추론 성능을 측정하는 MLPerf Inference 0.5의 5개 벤치마크 테스트 기준을 모두 충족했다. 젯슨 자비에 NX 모듈은 이 벤치마크에 사용된 자비에 SoC의 저전력 버전이다.
젯슨 자비에 NX는 젯슨 나노(Nano)와 상호 핀 호환이 가능해 하드웨어 설계를 공유한다. 젯슨 나노의 캐리어 보드와 시스템을 젯슨 자비에 NX로 업그레이드할 수도 있다. 또한 텐서플로(TensorFlow), 파이토치(PyTorch), MxNet, 카페(Caffe) 등 모든 주요 AI 프레임워크를 지원한다.
디푸 탈라(Deepu Talla) 엔비디아 에지 컴퓨팅 사업부 부사장 겸 총괄은 “로봇 및 임베디드 디바이스는 대부분 소형 폼팩터와 저전력을 기반으로 하기 때문에 AI 기능을 추가하는데 제약이 많았다”라며, “젯슨 자비에 NX는 디바이스의 크기나 전력 소모량을 늘리지 않고도 AI 성능을 획기적으로 높일 수 있다”라고 밝혔다.
젯슨 자비에 NX는 엔비디아의 유통채널을 통해 내년 3월부터 399달러에 판매된다. 개발자들은 젯슨 자비에 NX를 본뜬 소프트웨어 패치가 포함된 젯슨 AGX 자비에 개발자 키트를 이용해 애플리케이션 개발을 시작할 수 있다.