[헬로즈업 세줄 요약]
ㆍ추론형 LLM 통합 모델, 기업형 RAG 솔루션, AI PC·서버 어플라이언스 공개
ㆍ추론과정 시각화, 범용+추론 모델 통합 아키텍처, 에이전트간 협업 구조 '주목'
ㆍAI 대표 인프라로 자리잡기까지 지속 가능한 서비스 가능할지가 관건
코난의 LLM, 생성형 AI 활용에 방점 찍다
기업이 생성형 AI 도입에 가장 망설이는 순간은 ‘가능성’이 ‘현실’로 입증되지 않았을 때다. 그 갈림길에 서 있는 코난테크놀로지는 이제 망설이지 않겠다는 듯 한발 앞선 제품과 사업 전략으로 AI 실전에 나섰다.
코난테크놀로지는 13일인 오늘 열린 ‘2025 AI 쇼케이스’에서 추론형 LLM 통합 모델, 기업형 RAG 솔루션, AI PC·서버 어플라이언스를 공개하며, 한국어 기반의 고도화한 성능과 현장 최적화를 중심으로 생성형 AI의 실질 활용에 방점을 찍었다. 코난테크놀로지가 이번 쇼케이스에서 공개한 핵심 신제품은 코난 LLM ‘ENT-11’, 다중 소스 통합 RAG 시스템 ‘코난 RAG-X’, 온디바이스 AI PC ‘코난 AI 스테이션’과 AI 서버 어플라이언스 등이다.
코난 LLM ‘ENT-11은 추론형과 범용형을 하나의 모델로 통합해, 적은 GPU 자원으로도 고성능을 구현할 수 있다는 점에서 주목받는다. 이 모델은 국어 수능 문제나 판결문 분석, 표 기반 추론, 금융 분석 등에서 강력한 성능을 보였으며, 딥시크 32B 대비 약 20분의 1 파라미터로 유사 성능을 구현했다는 점에서 기술 효율성까지 확보했다.
RAG-X는 단순한 RAG가 아닌, 고객 내부 데이터는 물론 인터넷상의 최신 기사, 경쟁사 정보, 정부 리포트 등 다양한 도메인을 자동 연계해주는 확장형 RAG 솔루션이다. 에이전트 연동을 통해 자동 보고서 작성 등 고도화된 업무 자동화도 지원하며, 보안과 실시간성이 중요한 공공기관과 금융권 등에서 활용될 전망이다.
이와 함께 코난테크놀로지는 TG삼보와 협력해 개발한 AI PC 코난 AI 스테이션과 중소기업용 서버인 AI 스테이션 서버를 출시하며, 오프라인 환경에서도 LLM 기반 AI 기능을 사용하도록 지원해 공공조달 시장과 SMB 시장을 겨냥하고 있다.
이번 발표는 단순한 신제품 공개를 넘어, 생성형 AI의 산업 내 실전 도입 흐름과 맞닿아 있다. 특히 2024년 한 해 동안 다수의 공공기관 및 기업들이 PoC(개념검증)를 진행했고, 2025년은 그 결과를 바탕으로 실질적인 대규모 사업이 진행되는 전환점이 된다는 점에서 코난테크놀로지의 전략이 설득력을 얻고 있다.
코난테크놀로지는 2023년 이후 공공 부문을 중심으로 다수의 레퍼런스를 확보해 왔다. 예컨대 한국남부발전은 35개 업무 태스크와 15개 시스템에 LLM 기반 AI를 연동해 디지털 전환을 실현했고, 한림대학교의 경우 의료 기록 초안 생성을 통해 연간 약 9만5000시간을 절감했다. 국민권익위원회는 행정심판 청구 초안 생성을 자동화해 1억 원 이상의 연간 비용 절감 효과를 확인했다.
이외에도 행사에서는 현대로템, 대법원, 한국가스안전공사 등 다양한 적용 사례가 공개돼 실무와 가까워진 AI를 체감할 수 있었다. 이처럼 실질적인 시간 절감과 비용 절감의 수치가 확보되며, 생성형 AI의 ROI(투자 대비 효과)에 대한 의문은 점차 해소되는 분위기다.
상용화 중심의 로드맵까지 대비된 AI 생태계 구축
이번 발표에서 특히 강조된 기술적 경쟁력은 크게 세 가지로 요약된다. 먼저, 한국어 추론 과정의 시각화가 가능하다는 점이다. 대부분의 퍼블릭 LLM은 영어 중심이거나, 한국어 추론 시 영어·중국어가 섞이는 문제가 발생한다. 이에 비해 코난 LLM은 한국어 기반 추론 과정을 명확히 표기하며, 설명 가능한 AI(Explainable AI)로서의 신뢰성과 도메인 적용성을 확보했다.
다음으로는 범용+추론 모델 통합형 아키텍처를 구현했다는 점이다. 기존에는 각기 다른 모델을 병렬 사용하거나 API 형태로 나눠 사용했지만, 코난은 하나의 모델로 통합함으로써 GPU 자원 절감 및 처리 속도 향상 등에서 우위를 확보했다. 끝으로, 다중 에이전트와 MCP 지원을 통해 에이전트 간 협업이 가능한 구조를 제시했다. 복잡한 업무 절차를 자동화하려는 공공기관과 금융권의 니즈에 부합하는 구조로, 차세대 AI 워크플로우의 기반이 될 수 있다.
코난테크놀로지의 이번 발표는 단순한 기술 전시가 아니라, 실질 매출 확대를 위한 상용화 중심의 로드맵으로 정비돼 있었다. 특히 AI PC·서버는 2025년 하반기부터 공공 조달 시장(약 50만 대 예상)의 본격 경쟁에 돌입할 예정이며, 국방 분야에서도 사설망 기반 AI 도입 수요와 결합해 매출 확장 가능성이 높다. AI 스테이션 서버는 중소기업, 연구소 등 GPU 자원 확보가 어려운 조직에 최적화된 경량형 어플라이언스로 포지셔닝되며, TG삼보·에스넷그룹 등 유통망과 함께 B2B·B2G 확산 전략을 본격화할 계획이다.
코난테크놀로지는 국내 AI 시장에서 제기돼 온 '도입은 하고 싶지만 신뢰성과 ROI가 불확실하다'는 불안을 해소하는 데 기여할 것으로 보인다. 특히 한국어 최적화, 고도화한 추론 기능, 실제 적용 사례를 갖춘 통합형 LM과 AI 어플라이언스 제품은 국내 시장의 특수성과 요구에 밀착돼 있다.
물론, 글로벌 오픈소스 모델 대비 폐쇄성, 학습 비용, 생태계 부족 등의 구조적 한계는 여전히 존재한다. 하지만 코난은 이 틈새를 파고들어 공공과 산업 현장에서 실질적인 성과를 증명하는 전략으로 방향을 잡았다. 앞으로의 관건은 지금까지 쌓은 PoC 기반의 신뢰를 얼마나 빠르게 상용화 계약으로 전환하고, AI가 산업의 인프라로 자리 잡도록 지속 가능한 서비스를 제공할 수 있느냐에 달려 있다.
헬로티 서재창 기자 |
