레드햇은 하이브리드 클라우드 전반에서 AI 솔루션의 개발 및 배포를 가속화할 수 있도록 설계된 제품 및 서비스 포트폴리오인 레드햇 AI의 최신 업데이트를 27일 발표했다. 레드햇 AI는 모델 학습 및 추론을 위한 엔터프라이즈 AI 플랫폼으로 향상된 효율성과 간소화된 사용자 경험, 하이브리드 클라우드 환경 어디서든 배포할 수 있는 유연성을 제공한다.

 

기업은 점차 다양해지는 활용 사례를 해결하기 위해 대규모 언어 모델(LLM)의 배포 비용을 절감하는 방법을 모색하고 있다. 하지만 여전히 이 같은 모델을 자사의 고유 데이터(proprietary data)와 통합하는 동시에 데이터 센터, 퍼블릭 클라우드, 엣지 등 데이터가 존재하는 모든 위치에서 데이터에 접근할 수 있어야 한다는 과제에 직면해 있다.

 

레드햇 오픈시프트 AI(Red Hat OpenShift AI)와 레드햇 엔터프라이즈 리눅스 AI(Red Hat Enterprise Linux AI, 이하 RHEL AI)를 포함하고 있는 레드햇 AI는 사용자가 비즈니스별 데이터에 맞춰 보다 효율적이고 최적화된 모델을 채택하고 하이브리드 클라우드 전반에 배포해 광범위한 가속 컴퓨팅 아키텍처에서 학습 및 추론을 수행할 수 있는 엔터프라이즈 AI 플랫폼을 제공함으로써 이 같은 과제의 해결을 돕는다.

 

 

레드햇 오픈시프트 AI는 머신러닝 운영(MLOps)과 LLM 운영(LLMOps) 기능을 포함하며 하이브리드 클라우드 전반에서 예측 및 생성형 AI 수명 주기를 관리할 수 있는 종합 AI 플랫폼을 제공한다. 이 플랫폼은 데이터 과학 및 모델 파이프라인, 모델 모니터링, 거버넌스 등 AI 모델 관리를 간소화하는 도구와 예측 모델을 구축하고 생성형 AI 모델을 조정할 수 있는 기능을 제공한다.

 

레드햇 AI 포트폴리오의 일부인 RHEL AI는 엔터프라이즈 애플리케이션 구동을 위한 LLM을 보다 일관되게 개발, 테스트 및 실행할 수 있는 파운데이션 모델 플랫폼이다. 이는 사용자에게 부팅 가능한 레드햇 엔터프라이즈 리눅스 서버 이미지로 패키징됨으로 하이브리드 클라우드에 배포할 수 있는 그래니트(Granite) LLM 및 인스트럭트랩 모델 정렬 툴을 제공한다.

 

조 페르난데스 레드햇 AI 사업부 부사장 겸 총괄은 “레드햇 AI는 기업이 자사 데이터를 기반으로 보다 효율적이고 특수 목적 모델을 학습시켜 온프레미스, 클라우드, 엣지 환경 전반에서 유연한 추론을 지원한다”고 말했다.

 

헬로티 이창현 기자 |