S2W가 자사 AI 플랫폼 SAIP에 시큐리티 가드레일을 구현하면서 AI 안전성을 강화해 안정적인 데이터 운용 환경을 제공한다. SAIP는 고객의 보안 요구 수준에 맞춘 제로 트러스트 기반 설계로 구현한 기업 맞춤 생성형 AI 플랫폼이다. 해당 플랫폼은 기업 도메인에 특화된 대규모 언어 모델(LLM) 및 지식그래프 기술을 접목하고, 산업 특성과 사용 목적을 고려해 사용자 질문에 사실 기반 답변과 데이터를 제공한다.
조직은 LLM의 활용으로 데이터 운용의 효율성과 생산성을 높이는 한편 데이터 유출과 악의적 조작의 우려도 함께 커졌다. 생성형 AI 도입으로 발생하는 보안 문제점을 효과적으로 방어하는 기술에 대한 수요가 증가하고 있다. 이에 S2W는 SAIP에 시큐리티 가드레일을 적용해 기업 내부 데이터 보호 및 보안 위협 대응에 강화된 기능을 선보였다.
시큐리티 가드레일은 LLM의 개발·배포·운영 과정에서 보안성과 신뢰성을 확보하는 방어 체계다. 이를 플랫폼 안에 구현해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 검증과 정제 과정을 거쳐, 정보 유출 위험을 최소화하고 데이터 프라이버시를 강화했다. 더불어 AI 모델이 주어진 프롬프트에 대해 잘못된 방식으로 반응하도록 유도하는 ‘프롬프트 인젝션’을 방지한다. 취약점 전문 분석 보고서를 정기적으로 제공해 플랫폼의 안전성을 유지하고 강화하도록 지원한다.
서상덕 S2W 대표는 “시큐리티 가드레일을 포함해 조직 내부 데이터의 안정적인 운용을 가능케 하는 다양한 기술을 지속적으로 개발하고 고도화해 고객이 데이터와 AI의 활용 극대화하도록 안전한 환경을 구축하겠다”고 전했다.
헬로티 구서경 기자 |
