헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 클라우데라, 엔비디아 NIM 내장된 AI 추론 서비스 출시

클라우데라가 생성형 AI 개발과 배포를 가속하기 위해 엔비디아(NVIDIA)의 추론 마이크로서비스인 엔비디아 NIM로 구동되는 ‘클라우데라 AI 인퍼런스(Cloudera AI Inference)’를 출시했다고 10일 밝혔다. 클라우데라 AI 인퍼런스는 업계 최초로 NIM 기능을 제공하는 AI 추론 서비스 중 하나다. 대규모 AI 모델의 배포와 관리를 혁신적으로 간소화해 기업이 데이터를 최대한으로 활용하고, 생성형 AI를 파일럿 단계에서 완전 생산 단계로 완성할 수 있게 한다. 딜로이트(Deloitte)의 최근 조사에 따르면 기업의 생성형 AI 도입은 규제 리스크와 거버넌스 문제에도 불구하고 빠른 속도로 진행되고 있으며, 올 3분기에 3분의 2 이상의 기업이 생성형 AI 예산을 늘린 것으로 나타났다. 규제, 거버넌스 문제를 해결하기 위해서는 AI 모델과 애플리케이션을 온프레미스나 퍼블릭 클라우드에서 안전하게 운영해야 한다. 이 경우에는 직접 복잡한 접근 방식은 지양하고, 보안성과 확장성을 갖춘 솔루션이 필요하다. 클라우데라 AI 인퍼런스는 기업이 안전한 개발과 배포를 진행할 수 있도록 민감한 데이터가 비공개 영역을 벗어나 공급업체가 호스팅하는 AI 모델 서비스

이창현 기자

2024-10-10 09:43

일반뉴스 뉴렐릭, 엔비디아 NIM과 옵저버빌리티 플랫폼 통합

뉴렐릭은 기업고객이 생성형 AI 애플리케이션 개발, 배포 및 모니터링 과정의 복잡성을 완화하고 비용을 절감할 수 있도록 뉴렐릭 플랫폼을 엔비디아 NIM 추론 마이크로서비스와 통합했다고 26일 밝혔다. 이제 고객은 뉴렐릭 AI 모니터링을 통해 엔비디아 NIM으로 구축된 애플리케이션의 AI 스택 전반에 걸쳐 통합적인 가시성을 확보할 수 있으며, 설정을 더욱 간소화하고 데이터 보안을 보장받을 수 있다. 이는 엔비디아 NIM 자체 호스팅 모델의 강력한 보안 기능과 사용 용이성을 보완해 생성형 AI 애플리케이션 제작을 가속화한다. 또한 뉴렐릭과 엔비디아 NIM의 통합을 통해 고객은 보다 빠르게 AI를 도입하고 투자수익률(ROI)을 달성할 수 있다고 회사 측은 전했다. 기업은 디지털 경험 향상, 생산성 증대 및 수익성 개선을 목적으로 생성형 AI를 빠르게 도입하고 있다. 가트너(Gartner)에 따르면, 2026년까지 80% 이상의 기업이 생성형 AI를 이용하거나 생성형 AI 애플리케이션을 배포할 것으로 예상된다. 기업이 시장에서 우위를 점하기 위해선 빠른 배포 및 ROI 실현이 매우 중요하며, 이를 가능케 하는 핵심 요소는 옵저버빌리티다. 해당 옵저버빌리티 기술은 서

이창현 기자

2024-06-26 19:26

일반뉴스 킨드릴, 엔비디아 손잡고 생성형 AI 솔루션 도입 가속화

킨드릴은 AI 기반 인사이트와 비즈니스 성과에 대한 개발, 구축, 사용을 가속화하기 위해 엔비디아와 협력한다고 22일 발표했다. 킨드릴의 AI 기반 오픈 통합 디지털 비즈니스 플랫폼인 킨드릴 브리지(Kyndryl Bridge)는 풀스택 엔비디아 가속 컴퓨팅 및 소프트웨어를 사용하는 고객을 위해 실제 비즈니스 환경에서 AI 개발과 구축을 위한 전체 라이프사이클을 지원할 예정이다. 또한 고객이 생성형 AI 솔루션을 테스트, 검증 및 배포하는 속도를 높이고 신속한 애플리케이션 배포와 운영 경험 향상을 위해 킨드릴 컨설트(Kyndryl Consult)의 도메인 및 산업 전문성을 활용해 나갈 방침이다. 킨드릴은 이번 협력에 따라 각 산업에서 경쟁력을 유지하기 위해 생성형 AI 솔루션을 빠르게 확장하고자 하는 고객에게 중요한 기술과 서비스를 결합해 제공할 예정이다. 킨드릴의 전문성과 엔비디아 기술을 결합함으로써 고객들은 지속적으로 기술을 도입하고 범위를 확장하는 데 중요한 풍부한 전문 지식을 활용할 수 있게 된다. 고객의 미션 크리티컬 IT 운영에서 생성형 AI 솔루션의 도입과 구축을 더욱 가속화하기 위해 킨드릴은 ▲고객 지원 ▲IT 운영 자동화 ▲사기 및 손실 방지

이창현 기자

2024-05-22 09:43