스타트업이 구축하는 Ai 클러스터, 세계 1위 슈퍼컴퓨터도 넘어선다

인공지능 스타트업 인플렉션 AI(Inflection AI)가 22.000개의 엔비디아 H100 텐서 코어 GPU를 사용하는 세계 최대의 Ai 클러스터를 구축하고 있다고 밝혔다.

인플렉션 AI가 구축하고 있는 Ai 클러스터는 차세대 대규모 Ai 모델의 트레이닝과 배치를 지원하게 될 예정으로. 이 클러스터가 완성되면 16비트 정밀도 모드에서 무려 22 엑사플롭스를 달성할 수 있게 된다고 한다.

세부 사양은 밝히지 않았지만 Ai 작업 시 사용되는 FP16/BF16 처리량이 43.5 엑사플롭스, FP8 처리량이 87.1 엑사플롭스 라는 기사도 나왔는데 이 수치가 사실이라면 현존 최고 성능이라 알려진 프론티어 슈퍼컴퓨터를 능가하게 된다는 소식도 있다.

37,888개의 AMD Instinct MI250X으로 구동되는 프론티어의 BF16/FP16 처리량이 14.5 엑사플롭스 라니 인공지능 특화 슈퍼컴퓨터로는 세계 최고 성능이라 해도 과언이 아닐 것 같다.

인플렉션 AI는 이런 엄청난 슈퍼컴퓨팅 클러스터를 구축하기 위해 지금까지 15억 2,500만 달러의 투자금을 유치 했으며 마이크로소프트와 빌게이츠, 엔비디아가 펀딩에 참여한 것으로 발표됐다.