엔비디아가 차세대 ‘블랙웰 울트라(NVIDIA Blackwell Ultra)’ 플랫폼을 통해 에이전틱 AI 추론 성능과 비용 효율성을 획기적으로 끌어올리며 AI 인프라 시장의 판도를 바꾸고 있다.

엔비디아는 블랙웰 울트라 기반 GB300 NVL72 시스템이 기존 호퍼(Hopper) 플랫폼 대비 메가와트당 처리량을 최대 50배 향상시키고, 100만 토큰당 비용을 최대 35배 절감했다고 23일 밝혔다.

에이전틱 AI는 다단계 워크플로우와 실시간 상호작용이 요구되는 차세대 AI 애플리케이션으로, 저지연성과 긴 컨텍스트 처리 능력이 핵심이다.

최근 AI 코딩 에이전트와 대화형 코딩 어시스턴트 수요가 급증하면서, 대규모 코드베이스를 빠르고 효율적으로 처리할 수 있는 인프라의 중요성이 커지고 있다.

세미애널리시스 인퍼런스X에 따르면, 엔비디아의 하드웨어·소프트웨어 공동 설계 전략은 추론 성능과 총소유비용(TCO) 측면에서 뚜렷한 우위를 보이고 있다.

블랙웰 울트라 GPU와 엔비디아 다이나모, 텐서RT-LLM 등으로 구성된 소프트웨어 스택은 저지연 환경에서 토큰 처리 효율을 극대화하며, 에이전틱 AI 워크로드에 최적화된 성능을 제공한다.

특히 GB300 NVL72는 긴 컨텍스트 워크로드에서 강점을 보인다. 12만8천 토큰 입력과 8천 토큰 출력을 처리하는 AI 코딩 어시스턴트 환경에서, 이전 세대 대비 토큰당 비용을 최대 1.5배 추가 절감할 수 있다. 이는 NVFP4 연산 성능 향상과 어텐션 처리 속도 개선에 따른 결과다.

마이크로소프트, 코어위브, OCI 등 주요 클라우드 서비스 제공업체들은 이미 GB300 NVL72를 대규모로 도입해 에이전틱 코딩과 저지연 AI 서비스를 운영하고 있다. 엔비디아는 향후 루빈(Rubin) 플랫폼을 통해 또 한 번의 성능 도약을 예고하며, AI 추론과 학습 전반에서 인프라 혁신을 이어갈 계획이다.

블랙웰 울트라는 에이전틱 AI 시대를 위한 핵심 인프라로 자리매김하며, AI 서비스의 확장성과 경제성을 동시에 끌어올리고 있다.