GPU 원하는 만큼 빌려쓴다…KT, GPU 클라우드 '하이퍼스케일 AI 컴퓨팅' 출시

KT가 지난 10일 AI 인프라 솔루션 전문기업 ‘모레’와 협력해 클라우드 기반 GPU 인프라 제공 서비스 ‘하이퍼스케일 AI 컴퓨팅’을 출시했다.

하이퍼스케일 AI 컴퓨팅은 국내 최초로 고비용의 GPU 인프라를 동적 할당 방식으로 제공하는 실 사용량 기반 종량제 서비스다. AI 서비스 전문기업 또는 AI 개발자 등은 GPU 자원을 원하는 시점에 원하는 만큼만 할당 받아 사용하고 이후엔 반납하면 된다.

실제, 개발과정에서 GPU는 개발기간 전체에 필요하지 않고 데이터 분석, 모델학습 등에만 활용된다. 이 서비스를 이용하면 GPU를 필요한 기간에만 사용할 수 있어 개발비용을 대폭 절감할 수 있다.

하이퍼스케일 AI 컴퓨팅은 대규모 GPU 자원 필요 시 원활한 확장을 지원한다. 물리적으로 한 개의 서버에서 구동할 수 있는 최대의 GPU 수량 이상의 GPU를 클러스터링해 연산에 활용할 수 있다.

특정 시점에 준비된 전체 GPU가 모두 활용돼 일시적으로 자원이 부족하더라도 요청들을 자동으로 대기시키고 순차적으로 처리해 서비스 안정성이 뛰어나다는 점도 큰 특징이다.

모델 프로그래밍 호환성을 갖췄다. 하이퍼스케일 AI 컴퓨팅은 멀티 GPU 환경 이용을 위해 기존 개발 소스를 재설계하지 않고 그대로 멀티 GPU 환경을 이용할 수 있다..

또한, 개발 단계마다 필요한 자원을 연속적으로 확대 및 축소 가능하다. 할당된 자원을 변경하기 위해 필요했던 서비스 중단 없이 개발을 이어갈 수 있다.

KT와 모레는 이번 상품 출시에 이어 2022년에는 초대규모 GPU 팜을 구축할 예정이며, 2023년에는 전용 AI 반도체 칩을 제작해 GPU 기술 국산화를 추진할 예정이다.

한편, KT는 2022년 2월까지 GPU 인프라를 무상제공하는 프로모션을 진행한다. 이용을 원하는 고객은 가상머신(VM) 이용 비용만 지불하면 된다.