델 테크놀로지스(Dell Technologies)가 엣지 인프라 및 애플리케이션 구축 간소화하고, 신뢰 가능한 온프레미스 생성형 AI를 구축할 수 있는 솔루션을 내 놓았다.

델은 24일 DTW(델 테크놀로지스 월드) 2023의 2일차 행사에서 엣지 혁신을 위한 운영 소프트웨어 플랫폼 ‘델 네이티브엣지(Dell NativeEdge)’를 공개했다.

또한 엔비디아와의 협력을 통해 온프레미스 생성형 AI 구축을 위한 ‘프로젝트 헬릭스(Project Helix)’를 발표했다.

‘델 네이티브엣지’는 엣지와 코어 데이터센터, 멀티 클라우드 환경의 광범위한 엣지 구축을 단순화하고 최적화한다.

델이 지난해 사전 공개한 ‘프로젝트 프론티어(Project Frontier)’의 결과물인 ‘델 네이티브엣지’는 대규모 환경에 대한 원격 관리 및 멀티클라우드 애플리케이션의 오케스트레이션을 지원하는 업계 유일의 엣지 운영 소프트웨어 플랫폼이다.

엔터프라이즈 엣지 사용 사례를 위한 목적형 플랫폼으로, 제로 터치 구축과 개방형 시스템 설계가 특징이며, 델의 옵티플렉스(Optiplex) 데스크탑, 파워엣지(PowerEdge) 서버, 엣지 게이트웨이(Edge Gateway) 등 다양한 하드웨어와 통합할 수 있다.

또한 제로 트러스트 구현 기능이 탑재되어 엣지 자산 전반의 보안 위험으로부터 애플리케이션 및 인프라를 보호한다.

델은 100여 곳의 대규모 제조 기업 고객들을 대상으로 각 기업이 25개의 설비를 구축한다고 가정했을 때 ‘네이티브엣지’ 플랫폼의 잠재적인 경제적 가치에 대해 연구 조사를 실시했다.

3년 투자를 기준으로 ‘네이티브엣지’를 통해 제조 기업이 보유한 엣지 자산의 75%를 관리한다고 가정했을 때 최대 130%의 ROI(투자 수익)를 실현하고, 관리 대상이 되는 각 엣지 인프라 자산에 디바이스를 온보드 할 때 필요한 시간을 최대 20분까지 단축, 엔터프라이즈 리스크를 크게 줄여 비용 절감할 수 있다.

또한 제로 터치 프로비저닝으로 엣지 자산 구축 시간 단축 및 엣지 운영 비용을 절감하고, 현장 지원 파견을 줄여 운송비용을 낮추고, 이동 시간을 절약하여 이산화탄소 배출량을 최대 14톤까지 절감할 수 있을 것으로 조사됐다.

이와 함게 델 테크놀로지스와 엔비디아(NVIDIA)는 생성형 AI 모델을 온프레미스로 구축하고 사용할 수 있도록 지원하기 위해 공동의 이니셔티브를 추진한다.

양 사 협력을 통해 진행되는 ‘프로젝트 헬릭스(Project Helix)’는 델과 엔비디아의 인프라 및 소프트웨어가 사전 구성되어 있는 풀 스택 솔루션으로 제공된다. 기업에서는 이를 활용해 독점적으로 보유한 데이터를 바탕으로 쉽고 간편하게, 정확하고 책임감 있는 생성형 AI를 구축할 수 있다.

프로젝트 헬릭스는 델이 제공하는 하드웨어와 소프트웨어 중 최적화된 조합으로 엔터프라이즈 생성형 AI를 간소화한다. 엔터프라이즈 데이터를 보다 스마트하게 가치 있는 결과물로 재탄생 시키는 동시에, 데이터 프라이버시를 유지할 수 있다. 인프라 프로비저닝, 모델링, 학습, 미세 조정, 애플리케이션 개발 및 배포에서부터 추론 배치와 결과 간소화에 이르기까지 생성형 AI 라이프사이클 전체를 지원한다.

파워엣지 XE9680 및 파워엣지 R760xa와 같은 델 파워엣지 서버는 생성형 AI 교육 및 AI 추론을 위한 성능을 제공하도록 최적화되어 있다.

델 서버와 엔비디아 H100 텐서코어 GPU(NVIDIA H100 Tensor Core GPU) 및 엔비디아 네트워킹의 조합은 이러한 워크로드에 적합한 인프라 백본을 형성한다.

이 인프라는 델 파워스케일(Dell PowerScale) 및 델 ECS 엔터프라이즈 오브젝트 스토리지(Dell ECS Enterprise Object Storage) 등의 탄력적이고 확장 가능한 비정형 데이터 스토리지와 연계할 수 있다.

모든 종류의 델 검증 설계에서 고객들은 델 서버와 스토리지 소프트웨어의 엔터프라이즈 기능을 사용할 수 있으며, AI옵스(AIOps) 소프트웨어인 델 클라우드IQ(Dell CloudIQ)를 통해 인프라 통찰력도 확보할 수 있다.

프로젝트 헬릭스에는 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 포함돼 100여개 이상의 프레임워크, 사전 학습 모델, 개발 툴이 제공되며, 특히 대형 언어 프레임워크인 엔비디아 네모(NVIDIA NeMo™)와 네모 가드레일(NeMo Guardrails) 소프트웨어를 통해 최신 정보의 안전한 생성형 AI 챗봇 구축을 지원한다.