트렌드마이크로는 빠르게 증가하는 AI 기반 공격과 사기 범죄의 위협으로부터 보호하는 딥페이크 및 AI 기반 사이버 공격 차단 기술을 31일 발표했다.
해당 기술은 트렌드마이크로의 트렌드 비전 원 엔터프라이즈 통합 보안 플랫폼과 개인 사용자용 보안 제품에 반영될 예정이며, 첫번째로 개인 사용자용 솔루션인 ‘딥페이크 인스펙터(Deepfake Inspector)’를 무료로 공개한다.
트렌드마이크로의 자체 연구 결과에 따르면 폭발적으로 증가하는 엔터프라이즈 AI 솔루션의 성장세에 편승해 사이버 범죄자들이 활용할 수 있는 AI 기반 사이버 범죄 도구 역시 급격히 증가하고 있는 것으로 나타났다.
AI 기반 사이버 범죄 도구의 이용 가격이 낮아지면서 실제로 접근성은 그 어느 때보다도 높아졌기 때문에 기술 수준을 막론하고 사이버 범죄자들이 개인 정보 갈취, 신원 도용, 사기 또는 잘못된 정보로 피해자를 기만하는 대규모 사이버 공격을 더욱 쉽게 감행할 수 있게 됐다.
케빈 심저 트렌드마이크로 최고운영책임자(COO)는 “트렌드마이크로는 딥페이크를 비롯한 AI기반 사이버 공격을 탐지하는 새로운 기술을 통해 기업 및 개인 사용자 고객 모두를 보호하고 적극적으로 대응하고 있다”면서 “지금까지 위협 트렌드와 IT 환경의 전환기마다 늘 그래 왔듯이 트렌드마이크로는 최신 AI 기술로 부상한 보안의 새로운 과제를 파악하고 대응하고 있다”고 말했다.
최근 트렌드마이크로의 자체 설문조사에서 71%의 응답자가 딥페이크에 대해 부정적으로 인식하고 있으며 딥페이크가 가장 많이 사용되는 분야 중 하나가 디지털 사기라고 응답한 만큼, 이러한 AI 기반 공격을 탐지하고 무력화하는 것은 기업의 공격 표면 위험을 더 효과적으로 관리하고 디지털 환경에서 소비자의 전반적인 사이버 위험을 낮추는 데 핵심적인 역할을 한다.
트렌드마이크로의 통합 보안 플랫폼인 트렌드 비전 원에 탑재 예정인 새로운 딥페이크 탐지 기술은 다양한 고급 기술을 적용해 AI가 생성한 가짜 콘텐츠를 찾아낸다. 해당 기능은 현재 트렌드마이크로가 무료로 공개한 개인 사용자용 딥페이크 인스펙터에서도 사용할 수 있다.
트렌드마이크로의 딥페이크 탐지 기술은 기존의 이미지 노이즈 분석 및 색상 감지 수준을 넘어 사용자 행동 요소도 분석함으로써 딥페이크 탐지 및 차단을 위한 훨씬 더 강력한 접근 방식을 제공한다. 또한 딥페이크 탐지 즉시 담당 보안 팀에 알림을 전송하여 보안 운영 조직이 학습하고 교육하며 사전 조치를 취할 수 있도록 지원하므로, 향후 공격의 재발을 방지한다.
또한 개인 사용자용 트렌드마이크로 딥페이크 인스펙터는 실시간 비디오 대화의 상대방이 딥페이크 기술을 사용하고 있는지 확인하여 대화 상대가 실제 인물과 다를 수 있음을 사용자에게 경고한다. 이 때 분석은 소비자 디바이스에서 실시간으로 로컬로 이루어지므로 사용자의 데이터와 개인정보가 항상 보호된다.
댄 아윱 시장 조사 연구 기관인 가트너의 애널리스트는 “이제는 누구나 고품질의 생성형AI 애플리케이션으로 시청자를 속이거나 기만할 수 있는 사실적인 비디오 콘텐츠를 제작할 수 있다”며 “이러한 생성형 AI 도구의 사용 진입 장벽이 낮아지고 결과물이 점점 더 정교해짐에 따라 생성형AI 딥페이크 콘텐츠를 탐지할 수 있는 체계적인 접근 방식의 개발이 필요하다”고 전했다.
딥페이크는 기업과 개인 소비자에게 위협적인 범죄 기술이다. 탐지되지 않은 딥페이크는 재정적 손실, 일자리 손실, 법적 문제, 평판 손상, 신원 도용, 정신적 또는 신체적 건강에 대한 잠재적 피해로 이어질 수 있다.
최근 트렌드마이크로의 조사에 따르면 응답자의 36%가 딥페이크가 적용된 사기 시도를 경험했다고 답했다. 관련해 미FBI는 이미 딥페이크 기술이 화상 업무 환경의 보급과 함께 비즈니스 이메일 침해(BEC) 공격을 강화하고, 원격 근무 활동에 악용되고 있음을 경고한 바 있다.
이 기술은 인체를 활용한 인증뿐만 아니라 안면 인식과 같은 생체 인식 보안 조치를 우회하는 데에도 악용되고 있다. 또한 최근 트렌드마이크로의 연구에 따르면 맞춤형 AI 범죄 도구를 개발하는 대신 혁신적인 탈옥 기술(jailbreaking technique)을 통해 기존 LLM 모델을 악용하는 경향이 증가하는 것으로 나타났다.
인류의 AI 여정을 안전하게 보호하기 위한 사명의 일환으로 트렌드마이크로는 지속적으로 새로운 솔루션을 출시하고 있다. 최근에는 제로 트러스트 전략을 지원하는 트렌드 비전 원 플랫폼의 신기능이 출시된 바 있다. 트렌드마이크로가 딥페이크 및 AI 기반 사이버 공격 차단 기술을 선보이며 첫번째로 공개한 딥페이크 인스펙터는 공식 홈페이지에서 무료로 다운로드할 수 있다.
헬로티 이창현 기자 |
