엔비디아, SK텔레콤과 AI 인프라 구축 협력

AI 클라우드는 데이터로부터 인텔리전스의 기본 단위인 토큰을 생산하는 AI 팩토리 중심의 대규모 AI 인프라다. 범용 클라우드 서비스를 제공하는 기존의 대규모 제공업체와 달리, AI 클라우드는 모델 훈련, 추론, 에이전틱 AI 등 AI 워크로드 처리에 특화된 GPU 기반의 클라우드 컴퓨팅 서비스를 제공한다.

SK텔레콤의 AI 클라우드는 소프트웨어, 하드웨어, 운영 전반을 아우르는 엔비디아 DSX 풀스택 레퍼런스 아키텍처를 기반으로 구축된다. 이를 통해 에너지 효율을 극대화하는 동시에 최저 수준의 토큰당 생성 비용을 실현할 방침이다.

SK텔레콤의 AI 클라우드는 한국 전역의 기업과 산업을 위한 소버린 AI, 피지컬 AI, 기업용 AI 서비스를 포함해 모델 훈련, 추론, 에이전틱 워크로드 처리를 전방위적으로 지원하게 된다. 나아가 향후 아시아 전역으로 서비스를 확대해 나간다는 비전이다.

이번 협력은 한국이 세계에서 가장 앞선 AI 산업 국가 중 하나임을 보여준다. 한국 기업들은 통신, 메모리, 반도체, 제조, 로보틱스, 모빌리티, 소비자 기술 분야를 선도하고 있으며, 이러한 산업 전반에서 AI는 연구실과 챗봇 수준을 넘어 안전한 생산 환경에 본격적으로 도입되고 있다.

SK텔레콤 AI 클라우드, 산업 및 기업 위한 에이전틱 AI와 피지컬 AI 확장 지원

새로운 SK텔레콤 AI 클라우드(SK Telecom AI Cloud)는 AI 컴퓨팅 성장이 가속화됨에 따라 증가하는 AI 인프라 수요를 충족하기 위해 설계됐다.

이 인프라는 피지컬 AI와 에이전틱 AI 개발 분야에서 SK텔레콤의 리더십을 기반으로 한다. SK텔레콤은 지난주 열린 엔비디아 GTC 타이베이(GTC Taipei) 행사에서 엔비디아 옴니버스(Omniverse) 라이브러리를 활용해 SK하이닉스(SK hynix) 반도체 팹에 디지털 트윈을 적용한 최신 개발 성과를 공개했다. 이를 통해 복잡한 대규모 제조 환경에 최적화된 기술을 선보였다.

또한 지난 4월 SK텔레콤은 한국 정부의 독자 AI 파운데이션 모델 프로젝트(Sovereign AI Foundation Model Project)의 일환으로, A.X K1 모델 훈련에 오픈소스 엔비디아 네모트론(Nemotron) 데이터셋을 채택했다고 발표했다.

또한, 이번 협력의 일환으로 SK텔레콤은 엔비디아 클라우드 파트너(NVIDIA Cloud Partner, NCP)로 참여하게 된다. 본 글로벌 프로그램의 참여 기업들은 엔비디아의 최신 AI 인프라, 소프트웨어, 개발자 생태계를 활용할 수 있으며, 이를 기반으로 우수한 AI 성능과 뛰어난 경제성을 갖춘 AI 클라우드 서비스를 제공하게 된다.

엔비디아 DSX 플랫폼으로 신속한 설계와 초고효율 운영 제공

엔비디아 DSX 플랫폼은 AI 팩토리를 위해 처음부터 공동 설계로 엔지니어링된 플랫폼이다. 이 플랫폼은 엔비디아 칩, 시스템, 소프트웨어, 시설, 파트너 기술 전반을 아우르며, 토큰당 비용을 최소화하고, 초기 양산 시점을 앞당길 수 있도록 지원한다.

엔비디아 DSX 맥스LPS(DSX MaxLPS) 소프트웨어는 메가와트당 토큰 성능을 극대화해 최저 수준의 토큰 비용을 제공한다. 엔비디아 DSX OS는 라이프사이클 관리, 런타임 일관성, 상태 자동화, 복원력, 멀티테넌트 AI 팩토리 운영 등을 위한 오픈소스 모듈형 소프트웨어를 제공한다. 이를 통해 제공업체는 수익성을 높이고 운영 효율성을 향상시킬 수 있다.

엔비디아-SK그룹, 차세대 AI 인프라 구축 위한 공동 연구 추진

엔비디아와 SK그룹은 오늘 인프라 구축 단계를 넘어 협력을 확대하며, 차세대 AI 팩토리 아키텍처 공동 개발을 위한 공동 연구를 추진할 계획이라고 발표했다.

양사는 가속 컴퓨팅, 메모리 기술, 데이터센터 운영 전반을 아우르는 반도체부터 전력망까지 인프라 전 영역의 혁신에 집중할 방침이다. 또한 엔비디아와 SK텔레콤을 포함한 SK그룹 관계사들은 한층 효율적이고 확장 가능하며 복원력이 뛰어난 AI 서비스를 구현하기 위해 풀스택 AI 팩토리 최적화 프로젝트를 함께 모색할 예정이다.