엔비디아가 새로운 소형 생성형 AI 슈퍼컴퓨터 ‘젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)’를 19일 공개했다.
▲젯슨 오린 나노 슈퍼 개발자 키트 공개 / (사진:엔비디아)
추론 성능 1.7배 향상, 메모리 대역폭 50% 증가
상업용 AI 개발·취미·학습 폭넓은 AI 활용 지원
엔비디아가 새로운 소형 생성형 AI 슈퍼컴퓨터 ‘젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)’를 19일 공개했다.
엔비디아는 소프트웨어 업그레이드로 이전 모델 대비 성능을 높이고 가격은 낮췄다고 설명했다. 이전 모델에 비해 생성형 AI 추론 성능이 1.7배 향상됐고, 성능은 67 INT8 TOPS로 70% 증가했으며, 메모리 대역폭은 102GB/s로 50% 증가했다.
손바닥만 한 크기의 새로운 엔비디아 젯슨 오린 나노 슈퍼 개발자 키트는 상업용 AI 개발자부터, 취미로 AI를 다루는 사람, 학생에 이르기까지 모두에게 생성형 AI 기능과 성능을 제공한다. 동시에 가격은 기존 499달러에서 249달러로 인하됐다.
젯슨 오린 나노 슈퍼는 검색 증강 생성(RAG) 기반의 거대 언어 모델(LLM) 챗봇 생성, 시각적 AI 에이전트 구축, AI 기반 로봇 배포 등에 이상적인 솔루션을 제공한다.
새로운 젯슨 오린 나노 슈퍼에 제공되는 소프트웨어 업데이트는 이미 젯슨 오린 나노 개발자 키트를 보유하고 있는 사용자의 생성형 AI 성능도 향상시킨다. 기존 젯팩 SDK(JetPack SDK)를 업그레이드해 향상된 성능을 활용할 수 있다.
엔비디아 젯슨 AI 랩은 오픈 소스 커뮤니티에서 이러한 최첨단 모델에 대한 지원을 제공하며, 튜토리얼을 제공한다. 아울러 개발자는 광범위한 젯슨 커뮤니티의 지원을 받으며, 개발자가 만든 프로젝트에서 영감을 얻을 수 있다.