토탈 IT 솔루션 제공 기능 슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)가 ‘국제 슈퍼컴퓨팅 컨퍼런스(ISC 2024)’에 참가해 데이터센터 및 AI·HPC 산업이 직면한 문제에 대응하는 방안들을 발표했다고 17일 밝혔다.
▲슈퍼마이크로 AI 솔루션
데이터센터 전력 감축·AI HPC 용량 확장 제시
AMD MI300X·인텔 가우디 3 최신 가속기 지원
토탈 IT 솔루션 제공 기능 슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)가 ‘국제 슈퍼컴퓨팅 컨퍼런스(ISC 2024)’에 참가해 데이터센터 및 AI·HPC 산업이 직면한 문제에 대응하는 방안들을 발표했다고 17일 밝혔다.
슈퍼마이크로는 데이터센터 전력 소모량 감축과 동시에 AI 및 HPC 용량 확장을 목표로 할 때 직면하는 까다로운 요구사항을 충족할 수 있는 방안을 발표했다
슈퍼마이크로는 콜드 플레이트, CDU, CDM, 냉각탑 전체 등을 포함한 완전한 수냉식 냉각 솔루션을 제공한다. 데이터센터에 수냉식 냉각 서버 및 인프라를 도입할 경우 데이터센터의 PUE가 크게 감소해 총 전력 소비량을 최대 40%까지 줄일 수 있다.
슈퍼마이크로 4U 8-GPU 수냉식 냉각 서버는 엔비디아 H100/H200 HGX GPU를 통해 집적도가 높은 폼팩터에서 페타플롭스(PetaFlops) 수준의 AI 컴퓨팅 성능을 제공한다.
향후 수냉식 X14 8U/6U 슈퍼블레이드, 랙마운트 X14 하이퍼, 그리고 슈퍼마이크로 X14 빅트윈을 출시할 예정인 것으로 전해진다. 다양한 HPC 최적화 서버 플랫폼이 P 코어(Performance Core; 성능 코어)를 탑재한 콤팩트 멀티 노드 폼팩터 형태로 인텔 제온 6900을 지원한다.
슈퍼마이크로는 업계에서 가장 광범위한 수냉식 냉각 MGX 제품 포트폴리오를 지속적으로 출시하며 업계를 선도하고 있다. 최근에는 새로운 인텔 가우디 3 가속기 및 AMD MI300X 가속기와 함께 인텔의 최신 가속기 지원을 확정했다.
랙당 최대 120개의 노드를 제공하는 슈퍼마이크로 슈퍼블레이드를 사용하면 대규모 HPC 애플리케이션을 적은 랙에서도 실행할 수 있다고 강조했다. 슈퍼마이크로는 인텔 제온 6 프로세서를 통합한 슈퍼마이크로 X14 서버를 비롯해 다양한 제품군을 ISC 2024에서 선보였다.
슈퍼마이크로는 ISC 2024에서 HPC 및 AI 환경을 위해 특별히 설계된 폭넓은 솔루션을 선보이고 시연했다. 슈퍼마이크로의 새로운 4U 8-GPU 수냉식 냉각 서버는 엔비디아 HGX H100 및 H200 GPU를 탑재한 대표적인 제품군이다.
해당 제품을 비롯한 다양한 서버들이 출시되는 대로 엔비디아 B200 HGX GPU를 지원할 예정인 것으로 전해졌다. 새로운 시스템은 고급 GPU를 탑재했으며, 고속 HBM3 메모리를 사용해 기존 시스템보다 더 많은 데이터를 GPU에 보다 가까이 가져와 AI 훈련 및 HPC 시뮬레이션을 가속화한다.
데이터센터 관리 소프트웨어용 슈퍼마이크로 슈퍼클라우드 컴포저를 시연했다. 이를 통해 모든 수냉식 냉각 서버의 상태를 비롯해 단일 콘솔에서 전체 데이터센터를 모니터링하고 관리할 수 있는 방법을 공유했다.
찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로는 데이터센터에 종합 수냉식 냉각 솔루션과 같은 최신 기술을 도입하기 위해 AI 및 HPC 고객과 지속적으로 협력하고 있다”며, “슈퍼마이크로의 완전한 수냉식 냉각 솔루션은 랙당 최대 100kW를 처리해 데이터센터의 TCO(총 소유 비용) 감축과 AI 및 HPC 컴퓨팅의 집적도 향상이 가능하다”고 설명했다.