고성능 AI인프라 구축에 각 기업들이 사활을 걸고 있는 가운데, 에너지 절감·비용효율·유연성과 빠른 배포 등이 서버 인프라 구축에 핵심 과제로 떠오르고 있다.

최근 진행된 컴퓨텍스 2023에서 슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)가 최신 IT 워크로드를 위한 광범위한 최신 서버 및 스토리지 솔루션을 발표하며 최신 서버 인프라 솔루션과 시장 동향에 대해 설명했다. 

슈퍼마이크로의 빌딩 블록 서버(Building Block Server) 방식은 인텔, AMD 및 엔비디아의 최신 기술을 통해 지원되며, 특정 목적에 맞춰 구성된 서버는 데이터센터에서부터 엣지 디바이스까지 광범위한 △AI △클라우드 △5G 워크로드에 솔루션을 제공한다.

슈퍼마이크로는 컴퓨텍스 2023서 주목할 만한 제품으로 △랙 스케일 액체 냉각 솔루션 △GPU 최적화 시스템 △슈퍼블레이드 △하이퍼(Hyper) △클라우드DC △그랜드트윈 △슈퍼엣지 △페타스케일 스토리지 △액체 냉각 AI 개발 플랫폼 등을 손꼽았다.

올해 서버 시장이 전반적인 경기 침체로 인해 어려움과 성장 둔화가 있은 가운데 남은 하반기와 2024년 주문 수요를 통한 예측에서 강력한 성장이 예상된다고 언급됐다. 찰스 리앙 슈퍼마이크로 CEO는 “많은 엔터프라이즈들이 자체적인 클라우드와 데이터센터를 배포하고 있다”며 “통신사에서도 클라우드 인프라의 한 부분으로 변모하고 있어 고객 기반 확대를 기대한다”고 덧붙였다.

찰스 리앙 CEO는 “슈퍼마이크로는 대규모의 고성능 AI 인프라 및 클라우드 데이터센터에서 급증하는 수요를 충족시키기 위해 생산력을 확대했다”며 “그 결과 턴키 토탈 랙 솔루션으로 통합된 첨단 시스템을 제공한다”고 말했다. 

그는 “최대 8개의 엔비디아 H100 HGX GPU를 갖춘 가장 강력한 AI 서버부터 열악한 환경에서도 작동해야 하는 소형 엣지까지 포함하는 가장 광범위한 솔루션 포트폴리오”라고 강조했다. 이러한 슈퍼마이크로의 제품군에는 최근데이터센터의 전력 소비를 줄이고 성능을 향상시키는 새로운 액체 냉각 솔루션이 포함돼 있다.

또한 슈퍼마이크로는 엔비디아 그레이스 CPU 슈퍼칩을 기반으로 설계된 새로운 제품군을 곧 출시할 예정이다. 새로운 서버에는 각각 초당 900GB의 속도와 더불어 144개의 코어를 탑재한 듀얼 CPU를 갖춰 응답성이 매우 뛰어난 AI 애플리케이션 및 초저지연 응답이 필요한 애플리케이션을 지원할 수 있다. 이 시스템은 500W TDP로 실행되는 CPU를 통해 클라우드 네이티브 워크로드 및 차세대 AI 애플리케이션의 에너지 소비를 줄일 것으로 기대되고 있다.

AI 애플리케이션이 확산됨에 따라 고성능 AI 설계 서버에 대한 수요가 증가하고 있으며, 시스템 제공업체는 최신 CPU 및 GPU를 통합해야 하는 새로운 과제에 직면했다. 최고 사양의 슈퍼마이크로 GPU 서버는 듀얼 CPU와 최대 8개의 엔비디아 HGX H100 GPU를 통합하며 수냉식 옵션을 제공해 운영 비용 효율을 지원하고 있다. 

엔비디아의 하이퍼스케일 및 HPC 담당 부사장인 이안 벅(Ian Buck)은 “엔비디아는 슈퍼마이크로와 긴밀하게 협력해 가장 까다로운 고객의 요구사항을 충족하는 새로운 서버 설계를 혁신하고 있다”며 “양사는 곧 출시 예정인 엔비디아 그레이스 CPU 슈퍼칩 기반 슈퍼마이크로 서버와 전 세계적으로 주목받고 있는 H100 GPU를 통해 광범위한 시장과 애플리케이션에 AI를 제공하기 위해 협력하고 있다”고 말했다.