[헬로즈업 세줄 요약]
·AI와 보안 기술의 융합, 산업 현장에서 실질적 과제로 부상
·KAIST·KISA 등 각 분야 전문가들, 최신 위협과 기술 전략 공유
·데이터 해석, 비용 구조, 오케스트레이션, AI 윤리까지 전방위 논의
에스투더블유(이하 S2W)가 지난 6월 26일 조선 팰리스 서울 강남에서 연례 기술 컨퍼런스 ‘SIS 2025: MOVEMENT’를 개최했다. 올해로 4회째를 맞은 이번 행사는 약 600여 명의 산업계, 학계, 공공기관 실무자들이 한자리에 모여 AI와 보안, 그리고 데이터의 흐름을 주제로 기술 인사이트를 공유하는 장이 됐다.
서상덕 S2W 대표는 “SIS가 산업계·학계·공공부문이 함께하는 기술 인사이트 교류의 장으로서 입지를 구축해 나가고 있는 데 대해 뜻깊게 생각한다”며 “향후에도 안보와 산업을 아우르는 AI 생태계 전반의 성장을 도모할 수 있는 의미 있는 지식 공유의 기회를 적극 마련할 계획”이라고 밝혔다.
기조연설은 KAIST 신승원 교수가 맡았다. 그는 '혼돈에서 통찰로: AI가 데이터에서 의미를 찾는 법'을 주제로, 정보 수집부터 통찰 도출에 이르는 전 과정에서 AI의 역할을 입체적으로 조명했다. 신 교수는 “정보는 연결될 때 비로소 가치가 생긴다”며 “그래프 구조를 통해 비정형 데이터를 구조화하면 숨겨진 위협이나 관계를 추적하는 데 결정적인 단서를 얻을 수 있다”고 설명했다.
특히 그는 LLM(Large Language Model)과 Knowledge Graph를 비교하며 “LLM은 커먼센스를 잘 아는 석사 과정생이라면 Knowledge Graph는 특정 분야를 깊게 파는 박사와 같다”고 비유했다. 신 교수는 KAIST가 S2W와 협업해 진행한 다크웹 분석, 불법 약물 유통, 인신매매 탐지 등 실제 사례를 소개하며 “AI가 단순 분류기를 넘어, 산업과 안보 영역에서 ‘관계의 구조’를 읽고 판단할 수 있는 수준으로 확장되어야 한다”고 강조했다.
트랙 2의 첫 번째 세션에서는 이승현 S2W KE팀 팀장이 ‘AI 도입의 숨은 비용? 위기를 기회로!’를 주제로 발표했다. 그는 “많은 기업이 AI 도입 시 알고리즘과 성능에만 집중하지만 실제로는 API 연동, 사용자 지원, 인증 체계, 백오피스 관리 등 숨은 인프라 비용이 전체 비용의 절반 이상을 차지한다”고 말했다. 이어 “AI 프로젝트의 ROI를 높이기 위해선 기술 자체보다는 ‘도입 후 운영’의 시야로 접근해야 한다”고 강조했다.
두 번째 세션에서는 한국인터넷진흥원(KISA) 이슬기 책임연구원이 'AI로 강화되는 국가배후 공격조직의 가상자산 탈취' 사례를 분석했다. 이 책임연구원은 “최근 APT 공격 그룹들은 국가 인프라 공격뿐만 아니라, 자금 획득을 위한 가상자산 탈취에 AI를 적극 활용하고 있다”고 밝혔다.
그는 “예컨대 북한 연계 해킹 그룹은 가상화폐 거래소 고객지원센터를 사칭해 ‘의심 거래 감지’ 등을 이유로 링크 클릭을 유도하고, 챗봇을 활용해 피해자의 심리적 방어선을 낮추는 수법을 쓰고 있다”고 설명했다. 이어 “공격자는 웹사이트 자동화 도구와 AI 기반 언어모델을 결합해 매우 정교한 피싱 이메일을 발송하고 있으며 한 사례에서는 국내 거래소 직원에게 접근해 보안 인증 우회를 시도한 정황도 포착됐다”고 경고했다.
이 책임연구원은 이러한 공격의 배후에는 단순 사이버 범죄가 아닌, AI와 전통적 APT 전략이 결합된 ‘국가 주도형 위협 인텔리전스’가 존재한다고 지적했다. “위장된 기업용 메신저 앱, 내부인 사칭 채널, 실제 고객 응대 대화를 클로닝한 챗봇 등이 이미 국내 보안현장에서 탐지되고 있다”며 “AI 기술이 단순히 방어가 아닌 공격 전략의 일부로 편입된 지금, 탐지 중심 대응 전략에서 벗어나 위협 전개 전단계에 대한 선제적 분석이 필요하다”고 강조했다.
세 번째 세션에서는 SK텔레콤 에이닷 에이전트플래닝팀의 황재성 매니저가 ‘AI Agent Orchestration 기술 동향’을 발표했다. 그는 “에이전트 기술이 급속히 발전하고 있지만 실제 업무 환경에서는 단일 에이전트가 할 수 있는 일이 제한적”이라며 “여러 개의 AI 에이전트를 연동하고 제어하는 오케스트레이션 기술이 앞으로 핵심이 될 것”이라고 말했다. 발표에서는 SKT의 내부 플랫폼 사례와 함께, 오픈소스 기반의 에이전트 프레임워크와 운영 전략에 대한 논의가 이어졌다.
마지막 세션에서는 최대진 이화여대 인공지능학과 교수가 ‘진정성 있는 AI를 만들기 위한 반성’이라는 주제로 AI 윤리와 편향 문제를 짚었다. 그는 “높은 성능의 모델이 실제로 의미 있는 학습을 했다고 단정할 수는 없다”며 “정치적 편향을 탐지하는 AI가 의도치 않게 미디어 출처를 기준으로 예측해버리는 사례는 우리가 무엇을 학습시켰는지를 되짚어보게 한다”고 말했다. 이어 “AI 모델의 목적과 맥락에 대한 반성이 없다면, 우리는 인간처럼 말하지만 인간과 다른 존재를 만들게 될 것”이라고 경고했다.
이번 SIS 2025는 AI 기술의 진화가 산업 보안, 운영 비용, 기술 통합, 윤리 문제 등 다양한 분야에서 어떤 과제를 드러내고 있는지를 구체적으로 보여줬다. 실무자 중심의 세션을 통해 기술적 난제뿐 아니라 현장 중심의 대안이 공유되면서 AI의 실질적 쓰임을 고민하는 산업계에 의미 있는 방향을 제시했다.
헬로티 구서경 기자 |
