생성형 AI 확산에 데이터 유출 등 새 보안위협 부상
금융·공공·제조 중심 AI 안전성 검증 수요 커질 듯
AI 보안 기업 에버스핀과 AI 안전성 전문기업 티냅스가 인공지능 신뢰 보안(AI Trust Security) 분야에서 협력하기로 했다. 생성형 AI와 AI 에이전트 도입이 빨라지면서 기존 정보보안 체계만으로는 대응하기 어려운 위험이 늘고 있는 만큼, AI 서비스의 안전성과 신뢰성을 점검하는 시장도 함께 커질 것이라는 관측이 나온다.
6일 회사 측에 따르면 에버스핀과 티냅스는 AI Trust Security 분야의 전략적 협력 계약을 체결했다. 이번 협력은 AI 모델 자체의 성능 경쟁을 넘어, 실제 서비스 환경에서 발생할 수 있는 위험을 사전에 점검하고 대응 체계를 마련하는 데 초점이 맞춰져 있다. 양사는 AI 레드티밍을 포함한 보안 검증 서비스를 고도화하고, 기업들이 AI를 운영하는 과정에서 나타날 수 있는 취약 요소를 점검하는 체계를 함께 넓혀갈 계획이다.
이번 협력이 주목되는 배경에는 생성형 AI 확산에 따른 위협 지형 변화가 있다. 회사 측은 최근 프롬프트 인젝션, 탈옥, 데이터 유출, 권한 오남용, 에이전트 오용 등 기존 보안 체계와는 다른 유형의 위험이 빠르게 늘고 있다고 설명했다. 단순히 AI 모델의 정확도나 응답 품질만 볼 것이 아니라, 서비스 운영 과정에서 어떤 공격이 가능한지, 민감 정보가 외부로 빠져나갈 가능성은 없는지, 권한 통제가 적절히 작동하는지까지 함께 검증해야 한다는 의미다.
에버스핀은 이번 협력을 계기로 설계 단계부터 운영 단계까지 AI 시스템 전반의 위험을 점검하는 서비스를 강화할 방침이라고 밝혔다. 특히 금융, 공공, 플랫폼, 제조 등 AI 도입이 빠른 산업군을 중심으로 안전성과 신뢰성을 검증하는 수요가 커질 것으로 보고 있다. 회사 측은 이에 맞춰 글로벌 규제와 국제 표준에 대응할 수 있는 AI 신뢰성 평가 체계도 확대해 나갈 예정이라고 설명했다.
업계에서는 AI 보안이 기존 네트워크·애플리케이션 보안의 연장선이 아니라 별도의 검증 체계가 필요한 영역으로 자리잡고 있다는 점에 주목한다. 특히 AI 에이전트가 외부 시스템과 연결되고 자율적으로 작업을 수행하는 환경에서는 권한 관리와 데이터 흐름 통제가 핵심 이슈로 떠오르고 있다. 이 때문에 AI를 활용하는 기업 입장에서는 서비스 출시 전 취약점 점검뿐 아니라 운영 이후의 지속 점검 체계를 함께 마련해야 한다는 요구가 커질 가능성이 있다.
에버스핀은 기존 해킹방지·피싱방지 솔루션에 AI Trust Security 서비스를 더해 관련 포트폴리오를 확장하겠다는 구상도 내놨다. 또 한국을 비롯해 일본, 동남아 등에서 확보한 사업 기반을 토대로 해외 시장 진출도 추진하겠다고 밝혔다.
하영빈 에버스핀 대표는 “AI 시대에는 AI를 얼마나 잘 활용하느냐만큼 얼마나 안전하고 신뢰할 수 있게 운영하느냐가 중요하다”며 “이번 협력을 계기로 관련 서비스를 지속적으로 선보이겠다”고 말했다.
헬로티 임근난 기자 |
