클라우드플레어(Cloudflare)가 마이크로소프트와 협력을 통해 기업이 AI를 더 쉽게 실행할 수 있도록 지원한다고 5일 밝혔다. 

 

AI 추론 작업이 점점 더 분산되고 있는 가운데 클라우드플레어는 이번 협력을 통해 기업들이 디바이스, 네트워크 엣지, 클라우드 환경을 아우르는 컴퓨팅 연속체 전반에 걸쳐 AI 모델을 원활하게 배포해 중앙 집중식 및 분산 컴퓨팅 모델의 이점을 극대화할 수 있도록 지원한다.

 

또한 양사는 오닉스 런타임(ONNX Runtime)을 활용함으로써 초대형 클라우드에서 초분산 네트워크 엣지, 장치 자체에 이르기까지 이 세 단계 아키텍처 중 처리가 가장 적합한 곳에서 AI 모델을 실행해 특정 애플리케이션이나 서비스의 대역폭, 지연 시간, 커넥티비티, 처리, 배터리/에너지, 데이터 주권 및 현지화 요구 사항을 가장 잘 해결할 수 있도록 보장한다는 계획이다.

 

 

AI 모델 학습을 위해서는 서로 근접해 있는 컴퓨팅 및 스토리지 리소스가 요구된다. 따라서 중앙 집중식 클라우드 플랫폼은 모델 학습에 필요한 집중적인 계산을 위한 최적의 환경을 제공한다. 트레이닝은 계속 중앙 집중화되는 반면, 추론 작업은 더 분산된 위치, 특히 디바이스 자체와 엣지 네트워크에서 수행된다. 

 

예를 들어, 일부 추론 작업(예: 보행자를 발견한 자율 주행 차량이 제동)은 지연 시간을 최소화하기 위해 물리적 디바이스에서 실행되는 반면에 컴퓨팅, 스토리지, 배터리 전원과 같은 디바이스의 한계를 극복하기 위해 점점 더 많은 작업을 엣지 네트워크에서 실행해야 한다. 

 

엔드 유저 및 디바이스와 지리적으로 가까운 엣지 네트워크는 컴퓨팅 리소스, 속도, 데이터 프라이버시 간의 최적의 균형을 제공해 준다. 일부 애플리케이션은 엔드 유저에게 최상의 경험을 제공하기 위해 디바이스, 엣지 네트워크, 클라우드 환경이 함께 작동하여 컴퓨팅 연속체의 세 가지 단계를 통과해야 할 수도 있다.

매튜 프린스 클라우드플레어 CEO 겸 공동 창업자는 "클라우드플레어와 마이크로소프트는 모든 조직의 정확한 요구와 필요에 맞춰 AI 추론을 구현하기 위해 AI 트래픽과 작업이 이동할 철로를 구축하고자 한다"고 말했다.

 

이어 "속도 또는 정확성이 요구되는 상황이나, 에너지 혹은 연결 대역폭 문제를 해결해야 하는 상황뿐만 아니라 지역 로컬라이제이션 요구 사항을 준수하고자 하는 기업들에게 AI 작업에 가장 적합한 위치를 찾을 수 있도록 지원할 계획"이라고 전했다.

 

클라우드플레어와 마이크로소프트는 기업이 워크로드에 가장 적합한 장소에서 AI를 손쉽게 실행할 수 있도록 협력할 계획이다. 클라우드플레어는 커넥티비티, 지연, 규정 준수 또는 기타 요건에 따라 다양한 환경에서 트래픽을 라우팅할 인프라를 제공한다.

 

마이크로소프트의 오닉스 런타임은 장치(윈도우, 모바일 또는 브라우저 내), 분산 네트워크 엣지(클라우드플레어), 애저의 중앙 집중식 클라우드 플랫폼 등 모든 환경에서 동일한 모델을 배포할 수 있는 표준화된 솔루션을 생성한다.

 

헬로티 이창현 기자 |