서비스나우와 엔비디아(NVIDIA)가 기업 전반에 새로운 차원의 지능형 AI 에이전트 구축을 위한 파트너십 확장을 발표했다.

 

서비스나우는 엔비디아와 개발한 고성능 추론 모델 아프리엘 네모트론 15B(Apriel Nemotron 15B)도 공개했다. 해당 모델은 관계를 평가하고 규칙을 적용하며 목표를 고려해 결론을 도출하거나 의사 결정을 내릴 수 있다.

 

이 오픈소스 LLM(대규모 언어 모델)은 서비스나우와 엔비디아가 제공하는 데이터로 사후 훈련(post-training)됐다. 이를 통해 지연 시간 감소, 추론 비용 절감 및 더 빠른 AI 에이전트를 구현할 수 있도록 지원한다.

 

 

또한 양사는 서비스나우 워크플로우 데이터 패브릭에 일부 엔비디아 네모 마이크로서비스를 통합해 데이터 처리 속도를 높이고 모델 정확도와 개인화된 사용자 경험을 선순환하며 강화하는 ‘폐쇄형 루프 데이터 플라이휠 프로세스(closed-loop data flywheel process)’ 구축 계획도 공개했다.

 

아프리엘 네모트론 15B 추론 모델은 실시간 워크플로우 실행에 최적화된 컴팩트한 엔터프라이즈급 LLM 개발에서 중요한 진전을 이룬 모델이다. 이 모델은 엔비디아 네모(NVIDIA NeMo), 엔비디아 라마 네모트론 사후 학습 데이터셋(NVIDIA Llama Nemotron Post-Training Dataset), 서비스나우의 도메인 특화 데이터를 활용해, 아마존웹서비스(AWS) 기반의 엔비디아 DGX 클라우드에서 학습됐다.

 

더 작은 크기의 언어 모델인 동시에 고급 추론 기능을 제공하며 엔비디아 GPU 인프라에서 엔비디아 NIM 마이크로서비스로 더 빠르고 효율적으로 실행 가능하다. 벤치마크 결과 이 모델은 같은 크기 범주에서 뛰어난 성능을 보여줬으며, AI 에이전트를 통해 대규모 워크플로우를 효과적으로 지원할 잠재력도 입증했다.

 

특히 비즈니스 환경이 갈수록 복잡해지고 거시경제적 불확실성이 커지는 상황에서 엔터프라이즈 AI가 스마트하고 탄력적인 운영을 가능하게 하는 핵심 기술로 주목받고 있는 가운데 해당 모델이 출시됐다.

 

또한 서비스나우와 엔비디아는 AI 에이전트 성능을 높이고 모델 혁신을 지속하기 위해 공동 데이터 플라이휠 아키텍처를 새롭게 공개했다. 이 아키텍처는 서비스나우 워크플로우 데이터 패브릭과 엔비디아 네모 마이크로서비스 일부를 통합하는 방식으로, 기업의 워크플로우 데이터를 정제하고 맥락화해 추론 모델을 최적화한다.

 

고객이 규정을 준수해 안전하게 자신의 데이터를 사용 및 처리할 수 있도록 보호 장치도 마련했다. 이를 통해 모델의 정확도와 적응력을 지속적으로 향상시키는 폐쇄형 루프 학습 프로세스가 가능해지며, 이를 기반으로 기업 생산성을 높이는 맞춤형 맥락 인지 AI 에이전트의 개발과 배포를 가속화할 수 있다.

 

존 시글러 서비스나우 플랫폼 및 AI 부문 수석 부사장은 “아프리엘 네모트론 15B 추론 모델은 맥락을 이해하고 복잡한 워크플로우에 유연하게 대응하며, 대규모로 맞춤형 결과를 제공할 수 있는 지능형 AI 에이전트를 구현하는 데 중점을 두고 있다”고 설명했다.

 

이어 “혁신은 모델에만 국한되지 않는다. 워크플로우 데이터 패브릭과 엔비디아 네모를 기반으로 하는 데이터 플라이휠은 학습과 개선이 반복되며 선순환하는 구조를 만들어준다. 이를 통해 기업의 실시간 요구사항에 맞춰 맥락을 인식하고, 맞춤형으로 최적화된 AI 에이전트를 더욱 구축할 수 있다”고 강조했다.

 

카리 브리스키 엔비디아 생성형 AI 소프트웨어 부문 부사장은 “AI 도구를 통해 직원 생산성을 높이겠다는 공통된 목표를 갖고 있다”며 “함께 아프리엘 네모트론 15B 모델을 엔터프라이즈급 추론 엔진으로 개발한 데 이어 향후 엔비디아 네모 마이크로서비스를 서비스나우 워크플로우 데이터 패브릭에 통합해 지능형 디지털 에이전트를 위한 강력한 기반을 제공할 계획”이라고 전했다.

 

헬로티 이창현 기자 |