AI 컴퓨팅 기술의 선두주자인 엔비디아가 미국 새너제이에서 열린 GTC(GPU Technology Conference)에서 ‘AI 팩토리’를 발표하며, 기업들이 빠르게 변화하는 AI 시대에 적응하고, 성공을 이끌 수 있도록 돕고 있다.
기존 데이터센터 역할 확장, 대규모 인텔리전스 생산 목표
블랙웰 기반 GB300 NVL72 랙 솔루션, 최대 50배 추론 출력
AI 컴퓨팅 기술의 선두주자인 엔비디아가 AI 팩토리를 통해 데이터에서 실시간 인텔리전스를 생산하며, 기업과 국가에게 장기적인 혁신과 경쟁 우위를 제공한다. 엔비디아는 기업들이 빠르게 변화하는 AI 시대에 적응하고, 효율적이며 지속 가능한 AI 팩토리를 통해 성공을 이끌 수 있도록 돕고 있다.
엔비디아는 미국 새너제이에서 열린 GTC(GPU Technology Conference)에서 ‘AI 팩토리’를 발표하며 차세대 AI 시대를 위한 데이터센터의 혁신을 주도하고 있다고 밝혔다.
AI 팩토리는 대규모 데이터 처리와 실시간 인사이트를 통해 전통적인 데이터센터의 역할을 뛰어넘는 새로운 개념을 제시한다.
AI 팩토리는 데이터를 저장하고 처리하는 기존 데이터센터의 역할을 확장해 대규모 인텔리전스 생산을 목표로 한다.
이를 통해 기업과 국가들은 AI 기반의 경제적 경쟁력을 확보할 수 있으며, 데이터 수집에서 훈련과 미세 조정, 추론까지 AI의 라이프사이클을 전체적으로 조율한다.
특히 AI 팩토리에서 생산되는 인텔리전스는 실시간 예측과 자동화로 이어져 가치 창출의 속도를 대폭 끌어올린다.
AI 팩토리는 기존 데이터센터와 통합되거나 진화할 수 있으며, 기업의 비즈니스 모델에 따라 맞춤형 접근 방식을 제공한다.
AI 팩토리는 전 세계 정부와 기업들이 경제 성장, 혁신, 효율성을 촉진하기 위해 투자하는 핵심 인프라로 자리 잡아 가고 있다.
AI 팩토리는 급격히 증가하는 AI 추론 모델의 수요를 해결하기 위해 설계됐다.
엔비디아는 사전 훈련, 사후 훈련, 테스트 타임 스케일링의 세 가지 스케일링 법칙을 통해 AI 추론이 어떻게 고도화되고 있는지를 설명하며, AI 팩토리의 최적화된 설계가 이러한 컴퓨팅 요구를 충족시키는 데 필수적이라고 강조했다.
특히 엔비디아 블랙웰 기반 GB300 NVL72 랙 스케일 솔루션을 통해 AI 팩토리는 최대 50배의 추론 출력을 달성하며 효율성과 규모 면에서 새로운 기준을 제시한다.
이러한 컴퓨팅 파워는 AI 팩토리를 대규모 인텔리전스 제조에 최적화된 플랫폼으로 자리 잡게 한다.
엔비디아는 하드웨어와 소프트웨어, 생태계 파트너 및 참조 아키텍처를 포함한 통합 플랫폼을 통해 AI 팩토리를 지원한다.
이를 통해 기업들은 비용 효율적이고 확장 가능하며 고성능을 갖춘 AI 팩토리를 배포할 수 있다.
엔비디아 DGX SuperPOD은 온프레미스 AI 팩토리 솔루션으로 기업의 AI 프로젝트를 빠르게 구축하고 운영할 수 있도록 돕고 있으며, 클라우드 기반의 DGX 클라우드는 대규모 AI 애플리케이션을 개발, 배포하는 데 최적화된 플랫폼을 제공한다.
유럽, 인도, 일본 등 주요 지역에서 AI 팩토리가 빠르게 구축되며 다양한 산업을 변화시키고 있다. 유럽연합은 17개 회원국과 협력해 7개의 AI 팩토리를 설계 중이며, 인도의 요타 데이터 서비스는 고급 GPU 자원을 민주화하는 플랫폼을 구축했다. 일본과 노르웨이도 엔비디아 기반의 AI 인프라를 통해 산업 혁신과 AI 채택을 가속화하고 있다.