인터넷 연결 없이 PC 윈도우 환경에서 생성형 AI 서비스 활용 가능해
코난테크놀로지의 생성형 AI 어플라이언스 사업이 첫 윤곽을 드러냈다.
제품명은 ‘TG AI Powered Station with 코난 LLM’이다. TG삼보의 LME186 시리즈에 ‘코난 LLM On-Device(OND)’ 모델이 기본 탑재돼 있어 인터넷 연결 없이 PC 윈도우 환경에서 생성형 AI 서비스를 즉시 활용한다. 양사는 ‘23년 ‘AI 분야 상호협력 업무 협약’ 체결 이후 AI PC 제품 기획과 개발에 속도를 냈다.
대표적인 특징은 신뢰성과 안전성이다. LLM이 사전 학습한 지식 외에도 사용자 PC 문서를 실시간으로 벡터 색인하고, 질문과 가장 관련성이 높은 문서를 기반으로 응답을 생성한다. 따라서 답변의 신뢰성이 높고 최신성이 유지된다.
문서 생성은 물론 텍스트 요약, 표 요약, 다국어 간 텍스트 번역, 다양한 주제의 질의응답까지 지원해 업무 생산성을 획기적으로 제고 시켜준다. 이 모든 기능이 PC 내에서 실행되므로 문서 및 개인정보의 외부 유출 우려가 원천 차단된다. 기본 사양은 64GB DDR5 메모리, 2TB SSD, 지포스 RTX 4070 Ti Super 16GB, Z790 칩셋 등으로 구성된다.
김영섬 대표이사는 “TG삼보와 함께 개발한 AI PC가 출시를 앞두게 돼 뜻 깊다”면서 “신뢰성과 보안을 무기로 차세대 AI PC 시장에 출사표를 던지겠다”고 포부를 전했다. 코난테크놀로지는 SW 고도화와 동시에 HW 어플라이언스도 접목하는 투 트랙 AI 전략을 전개하고 있다. 이달 기업용 AI 솔루션 ‘코난 RAG-X’ CBT를 완료했으며, 내달 성능이 향상된 ‘코난 LLM’ 신규 버전을 출시할 예정이다. 동시에 온디바이스 AI 기술을 기반으로 AI PC를 비롯한 다양한 생성형 AI 어플라이언스 사업도 본격화한다.
한편, TG삼보는 10여 년간 정부 납품 1위를 유지해 왔다. 공공 부문에서의 강점을 바탕으로 각 기관의 환경과 보안 요구에 맞춘 최적화한 모델을 제공할 계획이다. 지승현 TG삼보 대표이사는 “AI PC 도입의 핵심은 AI 솔루션이 최상의 성능을 발휘하도록 제품을 최적화하는 역량”이라고 밝히고 “TG삼보의 40여년 노하우를 통해 차세대 AI PC의 전방위 확산을 주도하겠다”고 전했다.
양사는 공공뿐 아니라 일반 기업 및 개인 소비자 시장까지 범위를 확대해 공급 준비를 마치는 대로 4월 출시를 내다보고 있다.
헬로티 서재창 기자 |
