LLM 확장성과 실시간성 유지 및 보안 통제력 확보한 AI 에이전트 구축해
최근 기업이 생성형 AI의 잠재력을 현실로 전환하기 위해 ‘에이전트’를 속속 도입하고 있다. 하지만 막상 이를 도입하려는 현장에서는 보안, 인프라, 운용 부담 등으로 인해 '진짜 쓸 수 있는가'라는 회의감도 만만치 않다.
이러한 가운데, 올거나이즈가 ‘MCP(Model Context Protocol)’ 기술을 기반으로 한 ‘에이전트 빌더’를 자사 플랫폼 ‘알리(Alli)’에 탑재하며, AI 에이전트 실전 적용의 새 방향을 제시했다. 올거나이즈가 공개한 에이전트 빌더는 생성형 AI를 실무에 접목하려는 기업에게 직접적인 해답을 제시하는 솔루션이다. 핵심은 LLM의 확장성과 실시간성은 유지하면서도, 보안 통제력을 확보한 AI 에이전트를 구축하도록 설계됐다는 점이다.
이 기능은 최신 기술인 MCP 구조를 기반으로 한다. MCP는 LLM이 다양한 기능과 툴을 조합해 복잡한 업무를 처리할 수 있도록 지원하는 기술로, 요즘 급부상하고 있는 ‘에이전틱 RAG’ 구현에 필수 요소로 꼽힌다. 특히 MCP의 구조적 특성상 AI가 외부 기능을 실행하는 데 높은 권한을 필요로 하고, 그만큼 기업 시스템 침투 가능성도 커진다. 이에 따라 단순히 기능 구현이 아닌, 철저한 격리 실행 구조와 온프레미스 최적화가 중요한 요소로 부각되고 있다. 올거나이즈는 이 요구를 정면으로 해결한 셈이다.
에이전트 빌더는 UI 기반의 사용자 친화적 구조를 통해 비개발자도 손쉽게 AI 에이전트를 구성한다. 여기에 알리 플랫폼이 지원하는 ‘에이전틱 RAG’ 기능과의 연동을 통해 복잡한 문서, 데이터 기반의 추론 기능까지 끌어올렸다. 눈여겨볼 점은, 해당 기능이 SaaS뿐 아니라 온프레미스 환경에서도 동일한 성능을 제공한다는 것. 실제 온프레미스 환경에서는 올거나이즈 자체 개발 LLM인 ‘Alpha-V2’, ‘Alpha-R1’을 통해 최적화한 성능을 구현하고 있다.
기업 내부망이나 보안 민감 환경에서 생성형 AI를 적용하려는 기업 입장에서는 ‘폐쇄망 환경에서의 성능 보장’이 중요한 선택 기준이다. 이 부분에서 에이전트 빌더는 ‘대체재 없는’ 강점을 확보한 것으로 보인다. 에이전트 빌더를 활용하면 다양한 실제 업무 시나리오에 AI를 적용할 수 있다. 가장 주목할 만한 활용 사례는 ‘검색 에이전트’다. 내부 문서 RAG에 노션, 구글 드라이브 등 외부 SaaS를 연동해 산재된 정보를 통합적으로 검색하는 것이 가능하다.
또한, 복잡한 BI 시스템의 데이터를 기반으로 보고서를 자동 작성하는 ‘데이터 분석 에이전트’, 뉴스나 업계 동향을 분석해 회의 전략을 정리해주는 ‘영업 전략 에이전트’ 등도 손쉽게 구현 가능하다. 기존에는 데이터 연동, 파이프라인 구성, 보안 허용 등으로 인해 파일럿 테스트조차 어려웠던 시나리오가 실제 구현 단계로 넘어갈 수 있게 된 것이다.
최근 여러 기업이 MCP 기술에 주목하며 다양한 LLM 파이프라인을 구성하고 있다. 하지만 문제는 ‘보안, 통제, 인프라’라는 벽을 넘은 사례는 거의 없다는 점이다. 많은 솔루션이 API 단순 연동이나 파일 RAG 수준에 그치며, 온전히 시스템 내부에서 AI가 실행되고, 감시되고, 통제되는 구조를 갖춘 경우는 드물다.
이창수 올거나이즈 대표는 “MCP 기반 에이전트를 구축한다는 기업은 많지만, 실제 보안 요건을 만족하는 시스템은 거의 없다”며, “2017년부터 축적한 기업용 AI 노하우로 제대로 된 에이전트 시스템을 구축했다”고 강조했다.
이는 단지 기술적 우위를 넘어, 실제 LLM 도입에 보수적인 대기업과 공공기관을 설득할 수 있는 근거로 작용할 가능성이 높다. 특히 올거나이즈는 이미 한국, 미국, 일본 등지에서 300개 이상의 엔터프라이즈 고객을 확보한 바 있어, 레퍼런스 측면에서도 충분한 신뢰를 확보한 바 있다.
헬로티 서재창 기자 |
