AI 수요가 빠르게 증가하는 가운데, 기업들이 도입을 주저하는 가장 큰 이유는 GPU 등 인프라 구축 비용으로 나타났다. 오케스트로는 지난 6월 클라우드 서비스를 사용하는 기업 및 공공기관 종사자 6615명을 대상으로 한 ‘클라우드 환경에서의 AI 활용방안’ 설문 결과를 17일 발표했다. AI 도입 시 가장 큰 제약 요인은 GPU 등 기술 도입 비용(23.5%)이었다. 이어 전문 인력 부족(22.6%), 데이터 보안 우려(14.4%)가 뒤를 이었다. AI 도입은 초기 구축비도 크지만 사용량 기반의 과금 구조로 인해 장기적인 총소유비용(TCO) 부담이 크다. 여기에 AI 학습과 운영에 활용되는 핵심 데이터가 외부 클라우드에 저장되면서 보안 우려도 높아지고 있다. 비용과 보안이라는 이중 부담 속에서 퍼블릭 클라우드 기반 AI 환경의 한계가 분명해지면서 내부 데이터를 활용한 프라이빗 AI 환경은 더이상 선택이 아닌 대세로 자리잡고 있다. AI에 대한 기대 역시 현실적인 해법에 집중됐다. ‘비용 최적화’와 ‘실시간 보안 대응’이 각각 20.7%로 가장 높았고, ‘장애 원인 분석’(17.1%)과 ‘성능 병목 해소’(15.9%)가 뒤를 이었다. 이러한 기대는 기업이 실
AI반도체 기반 클라우드 플랫폼 기술 확보…초거대 AI 모델 최적화 및 실증 본격화 오케스트로가 과학기술정보통신부와 정보통신기획평가원이 추진하는 ‘AI반도체를 활용한 K-클라우드 기술개발 R&D 사업’에서 총 220억 원 규모의 연구개발 과제 2건을 수주했다. 이번 수주는 국산 AI반도체 기반 클라우드 기술 상용화와 K-클라우드 생태계 조성을 위한 기반 마련을 목적으로 진행됐다. 오케스트로가 주관기관으로 참여하는 AI반도체 컴퓨팅 자원분해 및 자원풀링 기술 개발 과제는 총사업비 76억 원 규모로, 2025년부터 5년간 수행된다. 해당 과제는 거대언어모델(LLM) 기반 AI 환경에서 모노리식 서버 구조의 물리적 제약을 극복하기 위해 CPU, 메모리, 스토리지 등 서버 자원과 AI반도체를 분리하고 고속 인터커넥터를 통해 통합 제어하는 클러스터 환경을 구현하는 것이 핵심이다. 오케스트로는 자원의 유연한 확장·축소와 효율적인 자원 할당·회수 기능을 갖춘 제어 및 관리 소프트웨어 인프라를 구축할 계획이다. 이는 LLM 학습 및 추론 성능을 극대화할 수 있는 기술 역량 확보를 목표로 한다. 또한, 오케스트로는 144억 원 규모의 AI반도체 클라우드 플랫폼 구축