▲수냉식 A100 PCIe GPU (이미지 - 엔비디아)
 

고성능 친환경 데이터센터 구축 메인스트림 서버용 수냉식 GPU 공개

 

아시아, 유럽 및 미국에는 에너지 효율 표준을 정하는 규제가 계류돼 있다. 이는 은행과 다른 대형 데이터센터 운영자들이 수냉식을 평가하도록 동기를 부여하고 있다. 또한 수냉식은 데이터센터에만 국한되지 않고 자동차와 기타 시스템 등 제한된 공간에 내장된 고성능 시스템 냉각에 필요성이 점차 증가하고 있다.

엔비디아(NVIDIA)가 고성능 탄소 중립 데이터센터에 대한 시장 요구에 부응하는 메인스트림 서버용 GPU 제품군의 첫번째 수냉식 A100 PCIe GPU를 출시한다고 24일 발표했다.

240개 이상의 데이터센터를 관리하는 글로벌 서비스 제공업체 에퀴닉스(Equinix)는 지난 4월 기준 49억 달러의 녹색 채권을 발행했다 이는 에퀴닉스 데이터센터에서 사용하는 에너지 중 컴퓨팅 작업에 직접 사용되는 에너지 양을 측정하는 업계 지표인 PUE(Power Usage Effectivity, 전력 효율 지수)를 최적화해 환경에 미치는 영향을 줄이는 데 적용할 투자 등급 도구(investment-grade instruments)이다.

데이터센터 운영자는 이 비율을 이상적인 1.0 PUE에 가깝게 낮추기 위해 노력하고 있다. 현재 에퀴닉스 시설의 평균 PUE는 1.48이며 최고의 신규 데이터센터는 1.2 미만으로 알려졌다.
 

 
▲에퀴닉스는 PUE (inset)로 측정한 데이터센터의 에너지 효율에서 꾸준히 발전하고 있다. (사진-엔비디아)
 

한 단계 더 나아가, 에퀴닉스는 에너지 효율을 발전시키기 위해 올해 1월 전용 시설을 열었다. 작업의 한 부분으로 수냉식(liquid cooling)에 중점을 둔 것이다. 메인프레임 시대에 탄생한 수냉식은 AI 시대에 들어 더욱 성숙해지고 있다. 이제 수냉식은 다이렉트 칩 냉각(direct-chip cooling)이라는 현대적인 형태로 구현되고 있으며 세계에서 가장 빠른 슈퍼컴퓨터 안에서 널리 사용되고 있다.

■가속화를 통한 효율
 
전 세계적으로 AI와 고성능 컴퓨팅을 실행하는 모든 CPU 전용 서버를 GPU 가속 시스템으로 전환하면 연간 11조 와트시(watt-hours)의 엄청난 에너지를 절약할 수 있다. 이는 1년에 145만여 가구가 소비하는 에너지 양과 같다.
 
엔비디아는 현재 다이렉트 칩 냉각을 사용하는 최초의 데이터센터 PCIe GPU를 출시해 지속 가능성을 높이고 있다. 에퀴닉스는 A100 80GB PCIe 수냉식 GPU를 지속 가능한 냉각 및 열 포착(heat capture)을 위한 포괄적인 접근 방식의 일환으로 데이터센터에서 사용할 수 있도록 인증하고 있다. GPU는 현재 샘플링 중이며 올 여름 일반 공급될 예정이다.
 
■물·전력 절약하는 가성비 수냉식
 
데이터센터 내부의 공기를 냉각시키기 위해 냉각장치는 연간 수백만 갤런의 물을 증발시키는데 데이터센터 운영자는 이러한 냉각장치를 제거하는 것을 목표로 한다. 이에 수냉식은 주요 핫스팟에 초점을 맞춘 폐쇄형 시스템에서 소량의 유체를 재활용하는 시스템을 가능하게 해 주목을 받고 있다.
 
별도의 테스트에서 에퀴닉스와 엔비디아는 수냉식을 사용하는 데이터센터가 공냉식 설비와 동일한 워크로드를 실행하면서도 에너지를 약 30% 절감할 수 있음을 발견했다. 엔비디아는 수냉식 데이터센터가 1.15 PUE에 도달할 수 있을 것으로 추정하며, 이는 공냉식의 1.6PUE보다 향상된 수치를 제공한다.
 
수냉식 데이터센터는 동일한 공간에 두 배의 컴퓨팅 성능을 제공할 수도 있다. A100 GPU는 PCIe 슬롯을 하나만 사용하는 반면 공냉식 A100 GPU에는 슬롯 2개가 필요하기 때문이다.
 

▲래크(Rack) 및 전력 비용 절감
 

적어도 12개의 시스템 제조업체가 올해 말에 이러한 GPU를 제품에 통합할 계획이라고 엔비디아는 밝혔다. 여기에는 △에이수스 △애즈락랙 △폭스콘 인더스트리얼 인터넷 △기가바이트 △H3C △인스퍼 △인벤텍 △네트릭스 △QCT △슈퍼마이크로 △위윈 △엑스퓨전이 포함된다.
 
잭 스미스 에퀴닉스 엣지 인프라 책임자는 "이것은 우리 연구실에 도입된 최초의 수냉식 GPU이며, 고객이 AI를 활용하는 지속 가능한 방법을 갈망하고 있기 때문에 매우 신나는 일"이라고 언급하며, “우리는 쓰레기를 자산으로 만들 것"이라고 덧붙였다.