엔비디아, 엔터프라이즈 IT의 생성형 AI 구축 위해 서비스나우와 파트너십 체결

서비스나우는 엔비디아의 소프트웨어, 서비스, 가속화된 인프라를 사용해 맞춤형 대규모 언어 모델(LLM)을 개발하고 있다. 해당 LLM은 엔드투엔드(end-to-end) 디지털 전환을 위한 지능형 플랫폼인 서비스나우 플랫폼(ServiceNow Platform)에 특화된 데이터로 훈련된다.

이를 통해 서비스나우의 광범위한 AI 기능을 더욱 확장해 IT 부서, 고객 서비스 팀, 직원, 개발자를 포함한 엔터프라이즈 전반에서 생성형 AI를 새롭게 활용할 수 있다. 이에 따라 워크플로우 자동화 강화 및 빠른 생산성 향상이 가능하다.

또한 서비스나우는 이러한 생성형 AI 툴을 바탕으로 엔비디아 데이터를 사용해 엔비디아 네모(NeMo) 기반 모델을 맞춤화함으로써 엔비디아가 IT 운영을 간소화할 수 있도록 돕는다. 네모 기반 모델들은 엔비디아 DGX 클라우드(Cloud) 및 온프레미스 엔비디아 DGX 슈퍼POD(SuperPOD) AI 슈퍼컴퓨터로 구성된 하이브리드 클라우드 인프라에서 실행된다.

서비스나우와 엔비디아는 IT 분야에 보다 높은 정확도와 가치를 제공함으로써 기업 전반의 생산성을 개선 및 단순화하기 위해 다양한 생성형 AI 사용 사례를 모색하고 있다.

여기에는 목적 기반 챗봇을 활용하는 지능형 가상 비서 및 에이전트 개발이 포함된다. 이들은 대규모 언어 모델을 사용하며 특정 IT 작업에 집중하는 목적 기반 챗봇을 통해 광범위한 사용자의 질문과 지원 요청의 신속한 해결을 돕는다.

기업은 사용자 경험을 간소화하기 위해 독점 데이터로 챗봇을 커스터마이징할 수 있다. 이를 통해 화제에서 벗어나지 않으면서 다양한 요청을 해결하는 중앙 생성형 AI 리소스 생성이 가능하다.

이러한 생성형 AI 사용 사례는 고객 서비스 상담원에게도 적용 가능하다. 생성형 AI는 보다 정확하게 사례의 우선순위를 정하여 시간을 절약하고 결과를 개선할 수 있다. 동시에 고객 서비스 팀은 자동 문제 해결, 고객 사례 요약을 통한 문서 자료 작성, 채팅 요약 등의 분야에 생성형 AI를 사용하여 보다 신속하게 업무를 전달하고 해결할 수 있다.

또한 생성형 AI는 성장 기회를 파악하여 직원 경험을 개선할 수 있다. 예를 들어, 자연어 쿼리와 직원 프로필 정보를 기반으로 교육 과정 및 멘토링과 같은 직원 맞춤형 학습 및 개발 권장 사항을 제공할 수 있다.

신속한 개발을 촉진하는 엔비디아의 풀스택 생성형 AI 소프트웨어 및 인프라

서비스나우는 생성형 AI 연구 및 개발 과정에서 엔비디아 네모 프레임워크가 포함된 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼과 엔비디아 AI 파운데이션(AI Foundations) 클라우드 서비스를 사용하고 있다.

네모에는 프롬프트 튜닝(prompt tuning), 슈퍼바이즈드 파인 튜닝(supervised fine-tuning, SFT) 및 지식 검색 도구가 포함돼 있다. 이는 개발자가 기업 사용 사례에 맞는 언어 모델을 구축, 사용자 지정 및 배포하는 것을 돕는다. 네모 가드레일(NeMo Guardrails) 소프트웨어도 포함되어 개발자가 AI 챗봇에게 주제, 안전, 보안 기능을 손쉽게 추가할 수 있다.