사내 데이터 연동 AI 늘었지만 “답변 검증 이중 작업” 여전
코세나 “의미·경험 결합한 구조로 거버넌스 통과 SQL만 실행”
거대언어모델(LLM)과 검색증강생성(RAG)을 도입한 기업이 늘고 있지만, 현업에서는 여전히 AI 답변의 정확도를 신뢰하기 어렵다는 지적이 이어지고 있다. 업계에서는 문서 검색 중심의 기존 방식만으로는 데이터의 의미와 연결 구조를 충분히 반영하기 어렵다며, 온톨로지와 지식 베이스를 결합한 이른바 ‘정확성 계층’ 구축이 기업형 AI의 다음 과제로 떠오르고 있다고 본다.
기업들은 그동안 데이터웨어하우스, BI 도구, 온프레미스 LLM, RAG 기반 AI 플랫폼 등에 투자를 이어왔지만, 실제 업무 현장에서는 AI가 내놓은 답변을 사람이 다시 검증하는 과정이 반복되고 있다는 평가가 나온다. 업계에서는 그 배경으로 AI가 데이터를 “가져오는 능력”과 데이터를 “이해하는 능력” 사이의 간극을 꼽는다. 문서와 테이블을 검색하는 것은 가능하지만, 컬럼과 테이블이 무엇을 뜻하고 서로 어떤 관계를 맺는지까지 안정적으로 해석하지 못해 같은 질문에도 결과가 달라질 수 있다는 것이다.
또 다른 문제는 검증된 분석 로직이 조직 차원에서 축적되지 않는 점이다. 업계 설명을 종합하면, 기존 방식에서는 AI가 질문을 받을 때마다 처음부터 다시 추론하는 구조가 많아 과거에 검증된 쿼리나 해석 기준이 지속적으로 재사용되기 어렵다. 여기에 부서별로 ‘매출’, ‘정산금액’ 등 핵심 지표의 정의가 다른 경우에는 AI가 어떤 기준을 따라야 하는지 판단하기 어려워지고, 이는 곧 답변 정확도 저하로 이어질 수 있다.
이 같은 한계를 보완하는 대안으로는 온톨로지 기반 시맨틱 레이어와 지식 베이스를 결합한 데이터 에이전트 방식이 거론된다. 온톨로지 기반 시맨틱 레이어 플랫폼 ‘Timbr.ai’는 자연어 질문이 들어오면 온톨로지의 의미 체계와 지식 베이스의 축적된 사례를 함께 참조하고, 거버넌스를 통과한 SQL만 실행하는 구조를 제공한다. 완전히 일치하는 과거 사례는 재사용하고, 유사 사례는 예시 기반으로 안내하며, 선례가 없을 때는 온톨로지 지식을 바탕으로 새로 생성하는 방식도 적용된다.
코세나는 Timbr.ai의 국내 공식 총판이다. 이 회사에 따르면 해당 구조는 데이터를 별도로 복제하거나 이동하지 않고 원본 위치에 연결해 질의를 처리하는 푸시다운(pushdown) 방식을 채택하고 있어, 데이터 반출이 어려운 온프레미스나 프라이빗 클라우드 환경에서도 적용할 수 있다. 또한 생성된 SQL의 개념, 로직, 메타데이터를 역추적할 수 있는 설명 가능성을 확보해 내부 감사나 규제 대응이 중요한 산업에서 활용 가능성이 있다는 설명이다.
업계에서는 기업 AI 도입이 초기 실험 단계를 지나, 이제는 실제 업무에 투입 가능한 정확도와 재현 가능성을 요구하는 국면으로 접어들었다고 보고 있다. 단순한 검색과 생성만으로는 한계가 드러난 만큼, 데이터의 의미와 조직의 경험을 함께 반영하는 구조가 향후 기업형 AI 시장의 경쟁 포인트가 될 가능성이 있다는 분석이다.
이승훈 코세나 대표는 “많은 기업이 이미 데이터웨어하우스와 BI 도구, RAG 기반 AI 플랫폼을 구축했지만, 현업에서는 여전히 AI 답변을 사람이 다시 검증하는 이중 작업이 이어지고 있다”며 “기존 시스템을 대체하기보다 그 위에 의미와 기억의 계층을 더해 신뢰할 수 있는 답변 체계를 만드는 데 초점을 맞추고 있다”고 말했다.
헬로티 임근난 기자 |
