인티그리트는 생성형 LLM과 멀티모달 AI를 내장한 고성능 온 디바이스 AI 엣지 시스템, 에어패스(AirPath) V3 엣지 상품을 출시한다고 22일 밝혔다.
에어패스 V3 엣지 AI 시스템은 퀄컴 테크날러지의 퀄컴 QCS8550 프로세서를 탑재해 빠른 분석속도와 이전 세대 대비 최대 2배까지 늘어난 배터리 수명, 끊김 없는 와이파이와 5G 간 원활한 전환 등을 제공한다. 이를 통해 고속 저지연 데이터와 저전력 소모가 요구되는 모빌리티 환경에서 기기의 사용시간을 늘리고 고품질의 생성형 멀티모달 AI 서비스를 제공하는 AI 기기의 개발과 상용화를 지원한다.
또한 온 디바이스 AI 환경에서 생성형 AI 서비스를 위한 라마(LLAMA) LLM기반의 경량화된 한국어 언어모델인 SLM(Small Language Model)과 실시간 영상 분석을 제공하는 비전 AI가 통합된 멀티모달 AI를 탑재했다. 다양한 AI 미션을 기기 내에서 처리해 속도와 보안성을 향상시킬 수 있어 즉각적으로 AI 분석 결과가 언어와 행동으로 제공되는 휴머노이드 로봇이나 고성능 하이퍼 로봇, AI 휴먼 키오스크 개발에 활용될 수 있다.
온 디바이스 AI는 개인과 기업 정보를 외부 클라우드로 전송하지 않고 현장의 기기에 내장된 AI 모델을 통해 실시간 분석하고 즉각적으로 폐기되므로 높은 수준의 보안과 개인정보 데이터를 보호할 수 있다. 때문에 멀티 언어 지원이 요구되는 생성형 AI 통번역 서비스, 성별과 연령에 따라 대응이 요구되는 의료 서비스 등에서 빠르고 안전한 서비스를 제공할 수 있다.
에어패스 V3 엣지 AI 시스템은 안드로이드와 리눅스, 우분투와 ROS2 최신 운영체계를 지원한다. 최신 온 디바이스 AI 기반의 내장된 생성형 언어모델과 비전 AI, 데이터 경량화를 포함하는 AI 풀 스택, 광범위한 개방형 AI 프레임워크를 제공해 현장에서 발생하는 다양한 AI 어플리케이션 확장을 지원하는 개방된 개발환경을 통해 상이한 AI 모델 간의 활용도를 향상시킬 수 있다.
에어패스 V3는 저전력 온 디바이스 AI 가 요구되는 모바일 환경을 위해 특화된 엣지 AI 시스템으로 퀄컴 테크날러지의 헥사곤 NPU를 통해 저전력 환경에서 48TOPS를 제공한다. MIPI, GMSL2, IP 규격 등 최대 5개 카메라를 통한 영상까지 동시에 실시간 AI 추론을 처리할 수 있고 내장된 5G 특화망 모듈을 통해 WebRTC 기반의 초저지연 실시간 동영상을 원격으로 전송할 수 있다.
인티그리트는 지난 2월 5G 특화망 통신 모듈을 단일 AI 하드웨어 시스템으로 통합한 에어패스 시스템으로 국내 5G 특화망 공인 인증기관으로 지정된 ETRI로부터 최초로 인증을 받은 바 있다.
에어패스 V3 엣지 AI 시스템은 온 디바이스 AI와 5G, 클라우드 하이브리드를 효과적으로 대응해 실시간 생성형 AI와 지능형 영상분석까지 최대 32종의 데이터를 경량화된 AI 데이터셋으로 제공한다. 이는 보다 정교한 안전관리가 요구되는 산업현장에서 기존 인트라넷과 쉽게 연동하고 확장할 수 있어 신뢰할 수 있는 디지털 트윈 구축을 지원한다.
또한 고성능 및 저전력, 경량화된 AI가 요구되는 차세대 지능형 로봇과 스마트 모빌리티, AI 홈 컨시어지 기기에서부터 AI 전환이 요구되는 유통, 커머스, 의료 서비스, 교육, 보안과 안전관리, 스마트 팩토리와 산업용 어플리케이션에 이르기까지 저비용으로 빠르게 첨단 엣지 AI 컴퓨팅 환경을 구축 할 수 있다.
이창석 인티그리트 대표이사는 “생성형 AI와 언어모델 확산 등 AI 혁신에 이미 익숙해진 사용자 경험을 수용하기 위한 AI 전환이 각 분야에서 급격히 요구되고 있다”면서 “퀄컴 테크날러지의 지원을 통해 새롭게 출시한 차세대 온 디바이스 AI 엣지 시스템은 저전력 온 디바이스 AI 환경이 요구되는 다양한 AI 모델과 시스템을 위한 경쟁력 있는 대안을 제공할 수 있을 것으로 기대된다”고 말했다.
헬로티 이창현 기자 |