IoT 및 스마트 디바이스의 AI 성능 극대화하는 데 초점 맞춰

Arm이 27일인 오늘 최초로 Armv9 기반 엣지 AI 플랫폼을 공개했다. Arm은 더 플라자 호텔 서울에서 기자간담회를 열고 IoT 및 스마트 디바이스 시장을 겨냥한 Cortex-A320 프로세서와 Armv9 기반 AI 플랫폼을 소개했다. 

황선욱 Arm 코리아 사장은 AI가 빠르게 변화하는 산업 환경에서 어떤 역할을 하는지 설명하며 “AI는 더 이상 클라우드에만 의존할 수 없으며, 엣지 환경에서 높은 성능과 전력 효율성을 갖춘 솔루션이 필수적”이라고 강조했다. 또한, AI 모델이 복잡해지는 만큼 개발자에게 유연한 AI 환경을 제공하는 것이 핵심 목표라고 밝혔다.

Arm은 새로운 AI 혁신을 위한 중요한 이정표를 제시했다. 이번 기자간담회에서 공개된 Cortex-A320은 엣지 AI 환경을 위한 고효율 AI 프로세서로, IoT 및 스마트 디바이스의 AI 성능을 극대화하는 데 초점을 맞추고 있다. 기존의 Cortex-A35 대비 10배 향상된 머신러닝 성능, 50% 향상된 전력 효율, 30% 높은 연산 처리 능력을 제공하는 것이 특징이다. 

황선욱 사장은 “AI 혁명은 이제 막 시작됐으며, IoT 시대에서는 엣지 AI가 중요해지고 있다”고 강조했다. 그는 “최근 AI 모델이 점점 복잡해짐에 따라, AI가 처리하는 데이터가 많아지면서 보안도 중요한 요소가 되고 있다. 이에 Cortex-A320은 고성능 AI 연산을 지원하면서도 보안성을 강화한 차세대 프로세서”라고 설명했다. 

Arm은 AI 기반 IoT 솔루션을 최적화하기 위해 Cortex-A320와 Ethos NPU를 통합한 Armv9 엣지 AI 플랫폼을 개발했다. 이를 통해 수십억 개의 IoT 기기에서 작동하는 AI 컴퓨팅을 지원할 것으로 기대된다. 특히, 스마트 도어벨과 같은 제품에서 AI를 활용한 영상 인식 및 실시간 분석 기능이 향상될 것이며, 앞으로 다양한 스마트 기기에서 새로운 AI 기능이 가능해질 전망이다. 

이어 발표를 맡은 정성훈 FAE 디렉터는 Cortex-A320의 기술적 특징을 소개하며 “이번 프로세서는 LLM 및 에이전트형 AI를 위한 최적화한 AI 플랫폼을 제공한다. Cortex-A320과 자사의 새로운 AI 소프트웨어 솔루션이 결합하면 엣지 AI 성능이 한층 강화할 것”이라고 설명했다. Cortex-A320은 머신러닝 성능을 위한 SVE2와 같은 Armv9 아키텍처 기능을 활용하며, 이전 모델인 Cortex-A35 대비 10배의 머신러닝 성능 향상과 30%의 스칼라 성능 향상을 제공한다. 

Cortex-A320이 가진 또 하나의 강점은 Armv9 아키텍처 기반의 보안 강화다. Cortex-A320은 PAC(Pointer Authentication), BTI(Branch Target Identification), MTE(Memory Tagging Extension) 등 보안 격리 기능을 적용했다. 이를 통해 AI 디바이스의 데이터 보안이 강화했으며, 실시간 운영 체제(RTOS) 및 리눅스 기반 환경에서도 안전하게 실행될 것으로 보인다. 

정성훈 FA 디렉터는 “AI 성능 향상을 위해 Cortex-A320과 Ethos-U85 NPU를 결합한 새로운 AI 플랫폼을 발표했다. Cortex-A320 기반 AI 솔루션은 컴퓨터 비전, 음성 인식 등 다양한 분야에서 최적의 성능을 제공하며, AI 컴퓨팅의 패러다임을 변화시킬 핵심 기술로 자리 잡을 것으로 기대된다"고 말했다. 이어 그는 “Cortex-A320은 기존 Cortex-A35 및 Cortex-A53 기반 AI 디바이스를 사용하는 기업이 손쉽게 업그레이드하도록 설계됐다”고 설명했다. 

AI 성능을 극대화하기 위해 Arm은 Arm KleidiAI를 활용한 새로운 AI 소프트웨어 생태계도 함께 발표했다.  KleidiAI는 이미 XNNPACK으로 Llama.cpp 및 ExecuTorch 또는 LiteRT와 같은 IoT AI 프레임워크에 통합돼 라마 3 및 Phi-3를 비롯한 주요 모델의 성능을 가속화하고 있다. 한 예로, Kleidi AI는 Llama.cpp에서 마이크로소프트의 TinyStories 데이터 세트를 실행할 때 새로운 Cortex-A320의 성능을 최대 70%까지 향상시킨다고 알려졌다. 

Arm은 Cortex-A320이 스마트 홈, 스마트 팩토리, 의료 AI, 자율주행차 보조 시스템 등 다양한 분야에서 활용될 것으로 기대하고 있다. 특히, AI 기반 산업 자동화 및 에너지 최적화 분야에서도 Cortex-A320을 적용할 경우 생산성 향상 및 전력 소비 절감 효과를 기대할 수 있다. 

헬로티 서재창 기자 |