AI는 끊임없이 논쟁을 불러일으키면서 기업과 소비자에게 놀라운 가치를 입증하고 있다.
많은 신기술이 그렇듯 AI에 대한 관심은 막대한 인프라가 필요하고 전력 소모가 많은 대규모 애플리케이션으로 집중되는 경우가 많다. 하지만 AI 사용이 증가함에 따라 대규모 데이터센터의 그리드에 대한 부담이 가중되고 있으며, 집약적 애플리케이션의 지속가능성과 경제성은 대폭 낮아지고 있다.
그 결과, 보다 민첩한 제품 중심의 AI 솔루션에 대한 수요가 급증하고 있다. 엣지 AI는 데이터 처리를 초소형 엣지에서 디바이스에 더 가깝게 (또는 디바이스에 내장된 형태로) 처리하도록 함으로써 이 새로운 트렌드를 이끌고 있다. 즉, 기본 추론 작업을 로컬에서 수행하는 것이다.
데이터센터를 통해 원시 데이터를 클라우드로 전송하지 않기 때문에 산업 및 소비자 애플리케이션에서 AI의 보안이 크게 개선되고 있으며, 클라우드에 비해 훨씬 적은 비용으로 디바이스의 성능과 효율성도 향상시킨다. 하지만 모든 새로운 기회에는 새로운 도전이 따르기 마련이다. 이제 제품 개발자는 엣지의 잠재력을 활용하기 위해 올바른 인프라와 필요한 전문 지식을 구축하는 방안을 고려해야 한다.
로컬 추론의 중요성
한 걸음 물러서서 보면 AI는 크게 두 가지 분야를 아우르고 있다. 시스템이 데이터를 통해 학습하는 머신러닝과 인간의 뇌처럼 사고하도록 설계된 특정 모델인 신경망 계산이다. 이는 기계를 프로그래밍하는 보조적 방법으로, 정확하고 신뢰할 수 있는 결과를 보장하기 위해 관련 데이터를 입력하여 기계가 작업을 수행하도록 훈련하는 방식이다. 이러한 작업 부하는 일반적으로 방대한 규모로 수행되며, 이를 위해 포괄적인 데이터센터가 설치된다.
주방의 스마트 토스터든 공장 현장의 자율 로봇이든 소규모 산업용 사용 사례와 컨슈머 산업용 애플리케이션의 경우, AI 추론에 필요한 데이터와 분석을 클라우드로 이전하는 작업은 경제적으로 (또는 환경적으로) 불가능하다.
대신 로컬 추론, 초저지연, 전송 부하 감소라는 기회를 제공하는 엣지 AI를 통해 새로운 AI 애플리케이션을 구축하면서도 비용과 전력 효율성을 크게 개선할 수 있다. 엣지 AI가 스마트 빌딩, 자산 추적, 산업용 애플리케이션의 생산성을 대폭 향상시키는 데 기여하는 모습은 이미 확인되고 있다. 산업용 센서의 경우, 엣지 AI 하드웨어로 가속화하면 오류를 더 빠르게 감지할 수 있을 뿐만 아니라 예측 유지 관리 기능을 제공해 오류가 발생하기 전부터 디바이스의 상태가 달라지는 시점을 파악할 수 있다.
여기서 한 걸음 더 나아가 엣지 AI용으로 설계된 차세대 하드웨어 제품은 AI 하위 시스템이 처음부터 보안 아키텍처의 일부가 될 수 있도록 구체적인 조정을 도입할 예정이다. 이는 시스템 내에 엣지 AI 기능을 내장하는 것이 가장 중요한 분야이다.
제품에 인텔리전스 내장하기
임베디드 시스템 진화의 다음 단계는 디바이스 아키텍처에 엣지 AI를 도입하고, 여기에 '초소형 엣지(tiny edge)'를 구현하는 것이다. 마이크로컨트롤러, 저전력 프로세서, 임베디드 센서 등 엣지에서 직접 AI 및 ML 모델을 처리하는 리소스가 제한된 초소형 디바이스를 뜻하며, 최소한의 전력 소비와 짧은 지연 시간으로 실시간 데이터 처리가 가능하다.
이제는 초소형 엣지에서 새로운 종류의 소프트웨어와 하드웨어가 등장하면서 디바이스에서 AI 작업을 실행할 수 있는 가능성의 문을 열어주고 있다. 처음부터 아키텍처에 이 기능을 내장하면 시그널을 변환하는 데 리소스를 낭비하지 않고 '시그널' 자체를 데이터로 만든다.
초소형 엣지 센서의 경우, 디바이스가 위치한 환경으로부터 데이터를 수집하고 칩내 엔진을 활용해 결과를 생성한다. 태양광 발전소는 태양광 패널 내의 센서가 전력 관리 시스템 전반에서 인근의 아크 결함을 구체적으로 감지한다. 극한의 전압이 발생하면 자동으로 셧다운 안전장치를 작동시켜 전기 화재를 방지한다.
아크 결함 감지, 배터리 관리, 온디바이스 얼굴 또는 사물 인식과 같은 애플리케이션이 이 분야의 성장을 주도하면서, 초소형 엣지에서 AI를 지원할 수 있는 마이크로컨트롤러 시장은 100% 이상의 연평균 성장률을 보일 것으로 예상된다(ABI Research 기준). 이처럼 실현하려면 클라우드 기반 AI의 처리 성능과 엣지에서 작동하거나 그 역할을 하는 디바이스의 대상 애플리케이션 간 격차를 해소하기 위해 더 많은 작업이 수행되어야 한다.
하지만 모든 신기술이 그렇듯 수요가 있는 곳에 답이 있다. 이미 이 과제에 초점을 맞춘 의미 있는 R&D 성과가 나타나고 있으며 초소형 AI가 모든 유형의 다양한 시스템에 내장되기 시작했다. 일부 소비자는 이미 이 기술을 당연하게 받아들여 '이것이 AI'라는 생각 없이 그야말로 디바이스와 대화를 나누는 경우도 있다.
엣지 AI 인프라 구축
이처럼 새로운 기회를 활용하려면 제품 개발자는 우선 엣지 디바이스에 들어가는 데이터의 품질과 유형을 고려해야 한다. 처리 수준과 작업 부하를 처리하는 데 필요한 소프트웨어와 하드웨어를 결정할 수 있기 때문이다. 이것이 복잡한 알고리즘과 데이터 세트를 처리하도록 보다 강력한 하드웨어에서 작동하는 일반적인 엣지 AI와 기본 추론 작업을 수행하는 경량 모델 실행에 주력하는 초소형 AI의 주요 차이점이다.
예를 들어 오디오와 특히 시각 정보는 매우 복잡하므로 데이터를 분석하기 위해서는 심층 신경망 아키텍처가 필요하다. 반면, 시간에 따라 기록된 진동 또는 전류 측정 데이터는 비교적 적은 연산 부담으로 처리가 가능해 개발자는 리소스 제약이 있거나 초저전력, 저지연 디바이스에서도 초소형 AI 알고리즘을 활용할 수 있다.
특정 연산 능력 요건에 따라 개발 단계에서 필요한 디바이스 및 마이크로컨트롤러 장치의 등급을 고려하는 것이 중요하다. 대부분 낮을수록 좋으며 경량의 초소형 AI 모델을 실행하면 디바이스의 전력 효율성과 배터리 수명이 향상된다. 즉, 텍스트든 시청각 정보든 처리하려면 개발자는 여전히 사전 처리를 수행하여 대량의 샘플 데이터를 학습 알고리즘에 입력하고, 이를 사용하여 AI를 훈련시켜야 한다.
향후 전망
초소형 엣지에 AI를 내장하는 디바이스의 개발은 아직 초기 단계에 있는데, 이는 기업이 실험하고 창의력을 발휘하면서 성공 요인이 무엇인지 정확히 파악할 수 있는 기회가 될 수 있다. 우리는 삶의 모든 측면에서 디지털화를 가속화할 거대한 물결의 시작점에 서 있다.
커넥티드 스마트 시티에 필요한 센서와 같은 지능형 공공 인프라부터 의료 분야의 비침습적 웨어러블을 통한 원격 환자 모니터링에 이르기까지 사용 사례는 광범위하다. 사용자는 AI가 핵심 요소라는 사실을 인지하지 않은 상태에서도 삶을 개선하고 일상 업무를 간소화할 수 있다.
엣지 AI와 초소형 AI는 이미 제품 개발을 혁신하고, 훌륭한 기술의 기준을 재정의하며, 더욱 개인화된 예측 기능, 보안 및 상황 인식을 가능하게 하면서 분명한 수요가 있음을 보여준다. 불과 몇 년 내로 이러한 AI 유형은 대부분의 기술을 일상적으로 활용하는 데 없어서는 안 될 요소가 될 것이다. 이러한 요소를 갖추지 못할 경우, 개발자는 혁신의 결과가 금세 쓸모 없어지는 모습을 확인하게 될 것이다.
이는 중요한 진전이지만 과제도 따르기 마련이다. 이러한 과제는 개발 툴과 소프트웨어 리소스로 구성된 광범위한 에코시스템을 통해서만 극복할 수 있으며, 시간 문제일 뿐이다. 초소형 엣지는 사회가 데이터와 환경을 훨씬 더 효율적으로 제어하고 유용하게 활용하게 해주는 핵심 요소이며, 더 스마트한 AI 기반 미래로 나아갈 수 있게 해준다.
헬로티 서재창 기자 |
