뉴렐릭은 기업고객이 생성형 AI 애플리케이션 개발, 배포 및 모니터링 과정의 복잡성을 완화하고 비용을 절감할 수 있도록 뉴렐릭 플랫폼을 엔비디아 NIM 추론 마이크로서비스와 통합했다고 26일 밝혔다.
이제 고객은 뉴렐릭 AI 모니터링을 통해 엔비디아 NIM으로 구축된 애플리케이션의 AI 스택 전반에 걸쳐 통합적인 가시성을 확보할 수 있으며, 설정을 더욱 간소화하고 데이터 보안을 보장받을 수 있다.
이는 엔비디아 NIM 자체 호스팅 모델의 강력한 보안 기능과 사용 용이성을 보완해 생성형 AI 애플리케이션 제작을 가속화한다. 또한 뉴렐릭과 엔비디아 NIM의 통합을 통해 고객은 보다 빠르게 AI를 도입하고 투자수익률(ROI)을 달성할 수 있다고 회사 측은 전했다.
기업은 디지털 경험 향상, 생산성 증대 및 수익성 개선을 목적으로 생성형 AI를 빠르게 도입하고 있다. 가트너(Gartner)에 따르면, 2026년까지 80% 이상의 기업이 생성형 AI를 이용하거나 생성형 AI 애플리케이션을 배포할 것으로 예상된다.
기업이 시장에서 우위를 점하기 위해선 빠른 배포 및 ROI 실현이 매우 중요하며, 이를 가능케 하는 핵심 요소는 옵저버빌리티다. 해당 옵저버빌리티 기술은 서비스, 인프라 및 AI 레이어 전반에 걸쳐 AI 애플리케이션 스택에 대한 전체적인 정보를 실시간 확인할 수 있도록 해 효율적이고 안정적이며 비용 효과적인 운영을 지원한다.
아샨 윌리 뉴렐릭 CEO는 “뉴렐릭은 엔비디아 NIM으로 구축된 AI 애플리케이션을 포함하도록 자사 플랫폼을 한층 확장함으로써 AI 옵저버빌리티를 선도하고 있다”며 “엔비디아의 AI 기술과 뉴렐릭의 옵저버빌리티 및 애플리케이션 성능 모니터링(APM) 전문성을 결합함으로써 치열한 시장 내 기업들에게 AI 부문 경쟁력을 제공한다”고 말했다.
아만다 손더스 엔비디아 AI 소프트웨어 부문 디렉터는 “기업들이 경쟁적으로 생성형 AI를 도입하고 있는 가운데, 엔비디아 NIM은 기업들이 프로덕션 환경에 애플리케이션을 신속하게 배포할 수 있도록 지원한다”며 “뉴렐릭과 엔비디아 NIM의 통합을 통해 IT 및 개발 팀은 운영 인사이트를 민첩하게 관찰하고 이에 대응함으로써 AI 애플리케이션을 최적화할 수 있다”고 전했다.
헬로티 이창현 기자 |
