노타가 오는 11월 5일부터 7일까지 일산 킨텍스(KINTEX)에서 개최되는 ‘디지털퓨처쇼 2025’에 참가해 AI 보편화를 가속할 AI 모델 최적화 기술을 선보인다. 노타는 이번 전시에서 자사의 AI 모델 최적화 플랫폼 ‘넷츠프레소(Netspresso)’를 기반으로, 다양한 엣지 디바이스에서 대규모 AI 모델을 효율적으로 실행할 수 있는 체험형 부스를 운영한다고 30일 밝혔다.
이번에 공개되는 LLM(대규모 언어모델) 최적화 서비스는 저전력 환경에서도 LLM과 VLM(비전언어모델)을 경량화해, 성능 저하 없이 빠른 추론 속도를 구현하는 기술이다. 이를 통해 GPU 서버 없이도 엣지 환경에서 대규모 AI 모델을 실행할 수 있어, 고성능 AI 기능을 자사 제품에 적용하고자 하나 서버 비용이나 전력 제약에 부담을 느끼는 기업에게 적합한 솔루션으로 평가된다.
노타는 이번 기술을 통해 산업 현장, 공공시설, 개인 모바일 기기 등 인터넷 접속이 제한된 환경에서도 AI 활용 범위를 크게 확장할 수 있을 것으로 기대하고 있다. 특히 부스에서는 엣지 디바이스에 문서를 업로드하고 질문을 입력하면, 넷츠프레소로 최적화된 LLM 모델이 문서를 분석해 실시간으로 답변하는 체험 프로그램을 운영한다. 또한 최적화된 VLM을 엣지 환경에서 직접 체험할 수 있으며, 방문객을 대상으로 무료 컨설팅 신청 이벤트도 함께 진행된다.
노타 관계자는 “이번 전시는 AI 모델 최적화 기술이 실제 디바이스에서 얼마나 효율적으로 구현되는지를 직접 확인할 수 있도록 기획됐다”며 “AI 경량화 및 최적화 기술을 통해 관람객이 AI 보편화의 가능성을 체감하고, 자사 제품에 쉽게 적용할 수 있는 기회를 제공하고자 한다”고 말했다.
한편 노타의 AI 모델 최적화 기술은 이미 다양한 산업 현장에서 솔루션 형태로 공급되고 있으며, 정부 주도의 ‘AI 국가대표(독자 AI 파운데이션 모델 개발 프로젝트)’ 정예팀으로 선정돼 기술 경쟁력을 인정받았다. 노타는 최근 일반청약 흥행과 함께 연내 코스닥 상장을 목표로 하고 있다.
헬로티 이창현 기자 |
