엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 지난 19일 실리콘밸리 SAP 센터에서 열린 GTC 기조연설에서 새로운 블랙웰(Blackwell) 컴퓨팅 플랫폼을 비롯해 컴퓨팅 성능 향상이 가져올 기술 발전에 대해 설명했다.
▲엔비디아, 역대 최대 규모 AI 콘퍼런스 GTC 2024 성황리에 개최(사진:엔비디아)
엔비디아 GTC 2024 개막, 11,000여명 참석...블랙웰 공개
AI 가속 컴퓨팅 변곡점...블랙웰 2,080억개 트랜지스터 탑재
엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 지난 19일 실리콘밸리 SAP 센터에서 열린 GTC 기조연설에서 새로운 블랙웰(Blackwell) 컴퓨팅 플랫폼을 비롯해 컴퓨팅 성능 향상이 가져올 기술 발전에 대해 설명했다.
이날 현장에는 11,000여 명이 참석했으며, 수만 명 이상이 온라인 실시간 생중계를 통해 기조연설을 시청했다.
젠슨 황은 “가속 컴퓨팅은 변곡점에 도달했으며 범용 컴퓨팅은 한계에 다다랐다”면서 “우리는 계속해서 컴퓨팅 비용을 낮추면서 지속 가능한 방식으로 더 많은 컴퓨팅을 수행할 수 있도록 끊임없이 확장 가능한 컴퓨팅을 위한 새로운 방법이 필요하다”고 말했다.
그는 가속 컴퓨팅은 모든 산업에서 범용 컴퓨팅에 비해 획기적인 속도 향상을 가져온다고 말해 AI 가속기와 관련 인프라의 시대가 개막했음을 확언했다.
젠슨 황은 “앞으로 데이터센터는 AI 공장으로 여겨질 것”이라며 “이들의 목표는 수익을 창출하는 것이며, 이 경우에는 인텔리전스를 창출하는 것”이라고 말했다.
젠슨 황은 수조 개의 파라미터로 구성된 대규모 언어 모델(LLM)에서 실시간 생성형 AI를 구현해 전 세계 AI 인프라에 대대적인 업그레이드를 제공할 엔비디아 블랙웰 플랫폼을 소개했다.
앞선 설명들을 단순화하는 젠슨 황의 한마디는 “더 큰 GPU가 필요하다”는 언급에 있다. 블랙웰 플랫폼은 이 과제를 해결하기 위해 만들어졌다. 젠슨 황은 주머니에서 블랙웰 칩을 꺼내 호퍼(Hopper) 칩과 나란히 들어보이자 호퍼가 왜소해 보였다.
▲엔비디아, 새로운 컴퓨팅 시대를 여는 블랙웰 플랫폼 출시(사진:엔비디아)
블랙웰 플랫폼은 기업들이 이전 세대 대비 최대 25배 적은 비용과 에너지로 조 단위의 대규모 언어 모델(LLM)에서 실시간 생성형 AI를 구축하고 실행할 수 있도록 지원한다.
블랙웰 아키텍처 GPU는 2,080억 개의 트랜지스터를 탑재했다. GPU 다이가 초당 10테라바이트(TB)의 칩 투 칩(chip-to-chip) 링크로 연결된 단일 통합 GPU로 맞춤형 2레티클 제한 4NP TSMC 공정을 통해 제조된다.
블랙웰은 훈련용 FP8에서 칩당 이전 세대 대비 2.5배, 추론용 FP4에서는 5배의 성능을 제공한다. 이 제품은 호퍼보다 두 배 빠른 5세대 NV링크(NVLink) 인터커넥트를 갖추고 있으며 최대 576개의 GPU까지 확장할 수 있다.
이밖에도 △2세대 트랜스포머 엔진 △5세대 NV링크(NVLink) △RAS 엔진 △보안 AI △압축해제 엔진 등을 블랙웰 아키텍처의 혁신적인 기술로 언급했다.
젠슨 황은 “우리가 절약하는 에너지의 양, 절약하는 네트워킹 대역폭의 양, 절약되는 시간의 양은 엄청날 것이다”라면서 “생성형이 바로 미래이기 때문에 이 분야는 완전히 새로운 산업이다. 우리의 컴퓨팅 방식은 근본적으로 다르다. 우리는 생성형 AI 시대를 위한 프로세서를 만들었다”고 덧붙였다.
엔비디아는 업계는 이미 블랙웰을 환영하고 있다고 자랑했다. 블랙웰 발표 보도자료에 따르면 알파벳과 구글 CEO 순다르 피차이, 아마존 CEO 앤디 재시 델 테크놀로지스 CEO 마이클 델, 구글 딥마인드 CEO 데미스 허사비스, 메타 CEO 마크 저커버그, 마이크로소프트 CEO 사티아 나델라, 오픈AI CEO 샘 알트만, 오라클 회장 래리 엘리슨, 테슬라와 xAI의 CEO 일론 머스크가 블렉웰에 대한 지지를 표현했다.
블랙웰은 모든 주요 글로벌 클라우드 서비스 제공업체, 선도적인 AI 기업, 시스템과 서버 공급업체, 전 세계 지역 클라우드 서비스 제공업체, 통신회사들이 도입할 예정이다.
젠슨 황은 “업계 전체가 블랙웰을 맞을 준비를 하고 있다. 블랙웰은 엔비디아 역사상 가장 성공적인 출시가 될 것”이라고 말했다.