슈퍼마이크로의 애플리케이션 최적화 서버는 엔비디아 GPU를 탑재했으며, 사전 훈련된 모델의 미세 조정이 수월하도록 지원하고, 데이터가 생성되는 엣지에 AI 추론 솔루션을 배포해 응답 시간 및 의사 결정의 개선을 지원할 것으로 보인다.

슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)가 AI 솔루션 포트폴리오 확장을 통해 공공 장소, 소매점 또는 산업 인프라와 같은 엣지 로케이션에서의 AI 성능 및 기능을 활용을 지원한다고 23일 밝혔다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 갖췄으며 고객의 엣지 환경에 맞춰 사전 훈련된 모델을 지원할 수 있다”고 말했다. 또한 “슈퍼마이크로는 기업이 엣지 로케이션에서 AI 데이터를 처리해 경쟁력을 구축할 수 있도록 업계에 최적화된 솔루션을 지속 제공하고 있다”고 덧붙였다.

슈퍼마이크로의 최첨단 서버는 처리가 필요한 데이터를 클라우드로 다시 전송하는 과정 없이, 각 엣지에서 필요한 정보를 다시 불러올 수 있도록 지원한다. 

고객은 엔비디아 AI 엔터프라이즈를 통해 엣지 로케이션에서 직접 성능 최적화 및 사전 훈련된 거대언어모델(Large Language Model, LLM)을 활용할 수 있다. 이를 통해 데이터 원천과 가까운 위치에서 실시간으로 정확한 의사결정을 내릴 수 있다.

케빈 코너스(Kevin Connors) 엔비디아 월드와이드 OEM 어카운트 부사장은 “엣지에서의 AI 활용에 대한 관심은 헬스케어, 소매, 제조, 자동차 등 산업 전반에서 증가하고 있다”며 “새로운 슈퍼마이크로 포트폴리오는 엔비디아 인증 시스템을 통과했으며, 엔비디아 AI 플랫폼을 기반으로 최고 수준의 가속 컴퓨팅 인프라를 제공하도록 설계됐다” 고 말했다.

그는 “또한 엔비디아 AI 엔터프라이즈 소프트웨어가 탑재 돼있어 엣지 AI 워크로드 실행을 용이하게 한다”고 이야기했다.

슈퍼마이크로의 하이퍼-E(Hyper-Edge) 서버 SYS-221HE가 대표적인 예이다. 해당 서버는 엣지 트레이닝 및 추론에 최적화되어 있으며, 깊이가 얕은 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 

이 시스템은 엔비디아 H100, A10, L40S, A40 및 A2 GPU를 포함한 최대 3개의 이중 폭 엔비디아 텐서 코어 GPU를 수 있다. 해당 GPU는 슈퍼마이크로 하이퍼-E가 데이터 수집, 분석 및 저장하는 엣지 환경에서 AI 작업 부하를 처리할 수 있는 수준의 컴퓨팅 성능을 제공한다. 

제이크 이스톡(Jacque Istok) 스토어지니어스 CEO는 “에비덴(Eviden)의 AI 기반 소매 솔루션은 슈퍼마이크로 엣지 시스템과 엔비디아 기술을 통해 사람들이 매장과 같은 공간을 둘러보고 상호 작용하는 방식에 큰 변화를 가져왔다”며 “매장의 3D 모델 및 대화형 챗봇을 통한 적절한 정보 전달로 쇼핑 경험 개인화 및 향상한다”고 말했다. 

아울러 그는 “실물과 같은 표정 애니메이션, 고급 음성 인식 및 3D 모델링을 결합해 가상 쇼핑을 실제 매장을 방문하는 것만큼 실감나게 만들 수 있다”고 덧붙였다.