델 테크놀로지스, 엔비디아 기반 델 AI 팩토리 확장

엔비디아 기반 델 AI 팩토리는 델의 선도적인 AI 포트폴리오를 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어 플랫폼과 통합한 오퍼링이며, 엔비디아 텐서 코어(NVIDIA Tensor Core) GPU, 엔비디아 스펙트럼-X 이더넷(NVIDIA Spectrum-X Ethernet) 네트워킹 패브릭 및 엔비디아 블루필드 DPU(NVIDIA Bluefield DPU) 등의 기술을 기반으로 하고 있다. 고객은 필요에 따라 맞춤화된 통합 기능 또는 사전 검증된 전체 스택 솔루션을 구매하여 RAG(검색증강생성), 모델 학습 및 추론과 같은 AI 사용 사례에 적용할 수 있다. 이 오퍼링의 주요 특장점은 다음과 같다.

신제품 델 파워엣지 XE9680L(Dell PowerEdge XE9680L)은 기존 모델 대비 더 작은 4U 폼 팩터에 8개의 엔비디아 블랙웰 아키텍처 GPU를 탑재해 높은 성능을 제공한다. 이번 신제품은 업계 표준 x86 랙 상에서 엔비디아 GPU를 탑재한 서버 중 최고 수준의 랙 스케일(rack-scale) 집적도를 자랑하며 기존 모델 대비 노드당 33% 더 높은1) GPU 집적도를 제공한다. 또한 20% 더 많은 5세대 PCIe 슬롯들을 장착하고, 노스/사우스 네트워크 확장 용량을 2배로 늘렸다. 2)

델 파워엣지 XE9680L 서버는 다이렉트 리퀴드 쿨링(direct liquid cooling) 기술로 CPU 및 GPU의 냉각 용량을 높여 전반적인 효율성을 향상시켰다. 손쉬운 서비스가 가능하도록 설계되었으며, 랙 스케일 구축 및 현장 설치가 용이하게끔 공장에서부터 완벽하게 구성이 완료된 상태로 출하된다.

델은 업계에서 가장 높은 집적도와 에너지 효율의 랙 규모 턴키 솔루션을 공급함으로써 대규모 GPU 가속 구축의 가치 실현 시간을 단축한다. 델과 엔비디아는 향후 단일 랙에서 64개의 GPU를 지원하는 공냉식 설계 또는 단일 랙에서 72개의 엔비디아 블랙웰 GPU를 지원하는 수냉식 서례 등 다양한 옵션을 선보일 예정이다.

델 네이티브엣지(Dell NativeEdge)는 엔비디아 AI 엔터프라이즈 소프트웨어 배포를 자동화하는 최초의 엣지 오케스트레이션 플랫폼으로,3) 개발자와 IT 운영자는 이를 이용해 엣지에 AI 애플리케이션 및 솔루션을 손쉽게 구축할 수 있다. 제조업이나 유통업계의 다양한 기업들이 엔비디아 메트로폴리스(NVIDIA Metropolis) 영상 분석, 엔비디아 리바(NVIDIA Riva) 음성 및 번역 기능, 엔비디아 NIM(NVIDIA NIM) 추론 마이크로서비스가 포함된 새로운 델 네이티브엣지 블루프린트를 통해 빠르고 정확하게 엣지 데이터를 분석할 수 있다.

새롭게 공개된 디지털 어시스턴트를 위한 델 생성형 AI 솔루션(Dell Generative AI Solution for Digital Assistants)은 델과 엔비디아의 풀스택 솔루션을 기본으로 사용자가 개인화된 셀프서비스를 경험할 수 있게끔 디지털 어시스턴트의 빠른 구축을 돕는다. 함께 발표된 디지털 어시스턴트를 위한 구축 서비스(Implementation Services for Digital Assistants)는 디지털 어시스턴트 솔루션을 설계, 계획, 구현, 테스트 및 확장할 수 있도록 지원한다.

양사 공동 엔지니어링을 통해 설계된 풀스택 자동화 솔루션인 엔비디아 기반 델 AI 팩토리는 다양한 활용 사례에 대한 AI 환경을 빠르게 구축할 수 있게끔 돕는다. 가치 실현 시간(time-to-value)을 최대 85% 앞당기며,4) 엔비디아 추론 마이크로서비스(NIM 또는 NVIDIA Inferencing Microservices)와 함께 사용할 경우 딜리버리에서 추론 작업 실행에 걸리는 전체 시간을 획기적으로 단축한다.

프리시전 AI 워크스테이션 기반 RAG를 위한 델 가속기 서비스(Dell Accelerator Services for RAG on Precision AI Workstations)는 AI 개발 주기를 단축하고 AI 애플리케이션 성능을 향상시킨다. 엔비디아 AI 워크벤치(NVIDIA AI Workbench) 툴킷이 탑재된 델 프리시전 워크스테이션 기반 RAG를 통해 맞춤형 대규모 언어모델을 활용함으로써 안전한 환경에서 신속한 프로토타이핑이 가능하다.

델 파워엣지 XE9680L 서버는 2024년 하반기 중 출시될 예정이다. 델 네이티브엣지의 엔비디아 지원은 2024년 하반기를 시작으로 순차적으로 제공된다. 디지털 어시스턴트를 위한 델 생성형 AI 솔루션 및 디지털 어시스턴트를 위한 구현 서비스는 현재 북미 지역에 한해 제공되고 있다. 프리시전 AI 워크스테이션 기반 RAG를 위한 델 가속기 서비스는 북미, EMEA, 아태지역의 일부 국가에 한해 하반기 중 출시될 예정이다.