Arm이 차량 내 AI 가속화를 위한 소프트웨어 최적화 플랫폼 ‘Kleidi’를 오토모티브 시장에 출시한다고 밝혔다. 이를 통해 자동차 제조업체와 개발자들은 차세대 차량용 AI 애플리케이션을 더 빠르고 효율적으로 배포할 수 있는 환경을 갖추게 된다. 

Arm의 오토모티브 사업부 수라즈 가젠드라(Suraj Gajendra) 부사장은 “자율주행 기술이 미래의 핵심으로 주목받고 있지만, AI는 이미 적응형 크루즈 컨트롤, 개인 맞춤형 인포테인먼트 시스템, 운전자 모니터링 등 다양한 기능에서 활용되고 있다”고 설명했다. 

 

하지만 차량 내 AI 워크로드가 복잡해지고, 클라우드-엣지 간 원활한 배포가 요구되면서 개발자 환경이 점점 더 어려워지고 있는 상황이다. 이에 따라 Arm은 자동차 소프트웨어의 복잡성을 줄이고, 성능을 자동 최적화하는 ‘Kleidi’를 통해 문제 해결에 나섰다. 

 

Arm Kleidi는 모바일, 클라우드, 데이터 센터 등 다양한 환경에서 AI 추론 워크로드의 성능을 최적화하는 소프트웨어 플랫폼이다. 특히 개발자가 추가적인 최적화 작업 없이도 AI 애플리케이션 성능을 향상할 수 있도록 설계됐다. Kleidi는 ExecuTorch, llama.cpp, MediaPipe, PyTorch 등의 AI 프레임워크와 통합되어 있으며, 이를 통해 차량 내 AI 워크로드를 최적화하고 처리 속도를 향상시킬 수 있다.

이미 여러 글로벌 기업들이 Kleidi의 성능 최적화를 경험하고 있다. AWS는 Arm과 협력해 차량 내 AI 챗봇을 개발했으며, 최신 버전의 llama.cpp에 Kleidi를 적용한 결과 응답 시간이 기존 대비 10배 빨라졌다. 챗봇 응답 속도가 1~3초로 단축됐으며, 소프트웨어 최적화 작업에 소요되는 개발 시간이 6주 절감됐다.
 

차량용 사이버 보안 기업인 빅원(VicOne)은 AI 모델을 활용해 보안 위협을 탐지하는 솔루션을 개발했다. Kleidi를 활용한 결과, 프리필(prompt prefill) 속도가 2배 향상됐으며, AI 기반 보안 탐지 속도가 60% 증가했다. Sonatus는 Kleidi를 통해 AWS Graviton 기반 AI 모델을 원활하게 실행할 수 있도록 최적화했다. 이를 통해 가격 대비 성능을 유지하면서도 AI 모델을 클라우드에서 차량 엣지 디바이스로 원활하게 확장할 수 있는 기반을 마련했다.

현재 전 세계 자동차 제조사의 94%가 Arm 기반 기술을 활용하고 있다. 자동차 AI 시장에서 Arm의 입지는 독보적이며, 이번 Kleidi 출시를 통해 차량 내 AI 애플리케이션 최적화 속도가 가속화될 전망이다. Arm Kleidi는 개발자들이 별도의 추가 작업 없이도 AI 모델을 Arm 기반 CPU에서 최적화하고 실행할 수 있도록 지원하며, 이를 통해 차량 내 AI 혁신이 더욱 빠르게 실현될 것으로 기대된다.

 

헬로티 서재창 기자 |