AI 에이전트가 기업 현장에서 빠르게 확산되는 가운데 그 속도만큼 보안 위협과 데이터 왜곡, 기밀 유출, 설계 없는 자동화로 인한 리스크도 함께 커지고 있다. 많은 기업이 모델 성능과 기능에 집중하지만 실제 실패의 원인은 구조에 있으며 잘못 정제된 데이터가 그대로 사용되고 과도한 신뢰가 검증 없이 의사결정으로 이어지는 문제가 반복되고 있다.
이 같은 흐름 속에서 토크아이티가 오는 6월 16일(화) 오후 2시부터 3시까지 'AI 에이전트 확산과 함께 커지는 기업 리스크, 어떻게 대응할 것인가?'를 주제로 웨비나를 진행한다. 토크아이티의 기업 AI 트렌드 토크 시리즈 '권실장의 AI 톡톡'의 일곱 번째 에피소드로 진행되는 이번 웨비나는 아이크래프트 권수용 실장과 함께 AI 에이전트 확산이 만드는 리스크의 실체를 짚고 안전하고 지속 가능한 도입 방안을 살펴보는 자리다.
웨비나는 총 4개의 핵심 주제로 구성된다. 첫 번째로 AI 에이전트 확산과 함께 커지는 기업 리스크를 다룬다. 대신 일하는 AI 에이전트 확산과 동시에 증가하는 보안 위협을 살피고 믿었던 AI 비서가 기밀을 유출하는 구조적 원인, 에이전트 남발이 만드는 권한 통제 붕괴와 거버넌스 문제를 짚는다. 두 번째로 데이터 무결성 붕괴 문제를 살펴본다. 데이터 정제가 되지 않은 환경에서 에이전트가 만드는 왜곡된 의사결정과 잘못된 RAG 및 잘못된 컨텍스트가 초래하는 업무 오류를 다루며 AI가 틀린 것이 아니라 데이터가 틀렸다는 구조적 문제를 짚는다. 세 번째로 과신과 과다사용의 부작용을 다룬다. 설계 없는 바이브 코딩이 만드는 기술 부채와 AI 과다 사용이 인간 인지능력에 미치는 영향, AI 도입이 오히려 스트레스와 오류를 증가시키는 이유를 살펴본다. 네 번째로 사고 이후가 아닌 설계 단계에서의 통제를 제안한다. 하네스 엔지니어링과 권한·검증·로그 구조의 중요성, 완전 자동화가 아닌 Human-in-the-loop 설계 전략, RFP 단계에서 정의해야 할 통제 구조와 KPI를 다룬다.
이번 웨비나는 CIO·CTO 및 IT 인프라 의사결정자, AI·데이터·디지털 혁신 담당 임원 및 실무자, 소프트웨어 개발자와 아키텍트 및 플랫폼 엔지니어, AI 도입을 추진하는 기업 전략 및 신사업 기획자를 주요 대상으로 한다.
게스트로는 아이크래프트 권수용 실장이 참여한다. 권 실장은 Cloud & Enterprise Architect로서 민간·공공·국방 분야 애플리케이션 및 데이터베이스 성능 진단·개선 프로젝트를 수행했으며 AWS·GCP·Azure 등 국내외 주요 CSP를 활용한 MSP 사업 영업 및 컨설팅 팀장을 역임했다. 현재는 다양한 오픈소스 및 상용 솔루션을 활용한 AI·데이터 플랫폼 설계·구축과 생성형 AI 개발·구축 프로젝트를 수행 중이다.
토크형 웨비나 참가는 무료이며 토크아이티 홈페이지에서 사전 등록을 통해 참여할 수 있다.
헬로티 구서경 기자 |
