델 파워엣지 제품군에 최신 인텔 가우디3 AI를 탑재해 AI 엣지 서버 라인업 확장을 델이 예고했다. 생성형 AI 모델 기반 서비스 및 제품을 배포하는 기업에 또 하나의 선택지로 작용할 전망이다.
▲델 파워엣지 XE9680 (사진:델 테크놀로지스)
AI 운영에 특화, 생성형 AI 개발 경계 확장
델 파워엣지 제품군에 최신 인텔 가우디3 AI를 탑재해 AI 엣지 서버 라인업 확장을 델이 예고했다. 생성형 AI 모델 기반 서비스 및 제품을 배포하는 기업에 또 하나의 선택지로 작용할 전망이다.
델 테크놀로지스가 고성능 AI 서버 ‘델 파워엣지 XE9680(Dell PowerEdge XE9680)’에 ‘인텔 가우디 3(Intel Gaudi 3)’ AI 가속기 지원을 추가한다고 15일 밝혔다.
델은 데이터 집약적이고 복잡한 워크로드를 효과적으로 지원하게끔 설계된 XE9680의 확장된 라인업을 통해 AI 활용을 고려하는 엔터프라이즈 고객사에 더 많은 선택지를 제공할 수 있을 것으로 기대했다.
델 파워엣지 XE9680은 x86 서버 아키텍처에 8개의 GPU를 탑재하는 모델로 AI 운영에 특화된 성능을 제공한다. 인텔 가우디3 가속기가 델 파워엣지에 통합됨으로써 생성형 AI 워크로드와 관련된 컴퓨팅 요구 사항에 시스템을 맞춤화할 것으로 보인다. 이는 범용성과 성능을 모두 갖춘 AI 가속 인프라를 제공하겠다는 델의 전략 가운데 하나이다.
인텔 가우디 3 AI 가속기를 탑재한 ‘파워엣지 XE9680’ 서버 모델은 올해 안에 국내 출시될 계획인 것으로 전해졌다.
안전성 및 확장성에 중점을 두고 설계된 XE9680은 가우디3 가속기를 추가해 서버 구성 옵션에서 최대 32개의 DDR5 메모리 DIMM 슬롯을 통해 데이터 처리량을 향상시켰고, 16개의 EDSFF3 플래시 스토리지 드라이브와 8개의 PCIe Gen 5.0 슬롯으로 확장된 연결성과 대역폭을 제공한다.
프로세서당 최대 56개 코어를 지원하는 4세대 인텔 제온 스케일러블(Intel Xeon Scalable) 프로세서를 2개를 장착했으며, 고난도의 AI/ML 워크로드에 대한 데이터 처리 및 분석에 최적화되어 있다.
XE9680은 고급 처리 능력과 효율적인 공랭식 설계가 결합됐다. 가우디3 가속기로 강화된 파워엣지 XE9680은 6개의 OSFP 800GbE 포트를 통해 가속기에 직접 결합된 새로운 네트워킹 기능을 제공한다. 외장 NIC를 시스템에 배치할 필요 없이 외부 가속기 패브릭에 직접 연결이 가능해 인프라를 단순화하고 인프라의 총소유비용과 복잡성을 낮추는 데 효과적이다.
인텔 가우디3 AI 가속기는 64개의 커스텀 및 프로그래밍 가능한 텐서 프로세서 코어(TPC)와 128GB의 HBMe2 메모리 용량, 3.7TB의 메모리 대역폭, 96MB의 온보드 SRAM 등 생성형 AI 워크로드에 필수적인 스펙을 갖췄다.
또한 가우디3는 개방형 에코시스템을 갖춰 파트너십 기반의 최적화 및 모델 라이브러리 프레임워크 지원의 이점이 있다. 기존 코드베이스의 전환을 간소화하는 개발 툴로 간편한 마이그레이션을 지원한다.
인텔 가우디3 전문 미디어 디코더는 AI 비전 애플리케이션을 위해 설계됐다. 광범위한 사전 처리 작업을 지원해 비디오에서 텍스트로의 변환을 간소화하고 엔터프라이즈 AI 애플리케이션의 성능을 향상시킨다.
김경진 한국 델 테크놀로지스의 총괄 사장은 “델은 폭넓은 협업 전략을 통해 AI 개발의 경계를 확장하고, 새로운 표준을 끊임없이 제시하고 있다”고 말하며 “고객이 AI 여정의 어느 단계에 있든 목표 달성을 가속하고, 미래에 필요하게 될 요구 성능에 대비하는 동시에 이 여정이 안전하게 지속될 수 있도록 지원하는데 집중할 계획이다”라고 덧붙였다.
한편 델은 최근 포레스터웨이브(Forrester Wave) 보고서에서 AI 분야 선도 기업으로 선정됐다. IT 및 데이터 과학자가 AI를 적용하고 생산성을 높일 수 있도록 포괄적인 솔루션을 제공함으로써 엔드투엔드 환경의 생성형AI 성과를 이끌어낸다는 평가를 받으며 전략과 오퍼링 측면 모두에서 높은 점수를 획득했다.