디지털 범죄 대응 전문기업 라바웨이브가 카이스트 사이버보안연구센터와 공동 개발한 딥페이크 사전예방 기술을 경찰청 사이버범죄신고시스템 누리집을 통해 일반 국민이 직접 체험할 수 있도록 공개했다. 이번 사례는 딥페이크 범죄가 급증하는 가운데 사후 대응의 한계를 넘어 근본적인 기술적 예방 수단을 국민에게 직접 선보이는 유의미한 사례다.
이번에 공개된 기술은 적대적 공격(Adversarial Attack) 기법을 기반으로 한다. 인물 사진에 육안으로 식별할 수 없는 미세한 노이즈를 주입해 AI가 해당 이미지를 딥페이크 합성에 활용할 경우 결과물이 심각하게 왜곡되도록 만드는 원리다. 원본 이미지의 시각적 품질은 그대로 유지하면서 딥페이크 생성 자체를 기술적으로 억제할 수 있다.
대국민 체험 서비스는 경찰청 사이버범죄신고시스템 누리집 외에도 라바웨이브 홈페이지, 블로그, 인스타그램 등 다양한 경로를 통해 접근할 수 있도록 서비스 접근성을 최대화했다. 라바웨이브는 딥페이크 생성 AI의 빠른 발전 속도에 대응하기 위한 기술 고도화도 병행 추진 중이다. 특히 최신 딥페이크 생성 버전과 전처리 제거 기능을 탑재한 오픈AI 모델에 대응하는 연구를 통해 범죄 콘텐츠 확산 억제와 기술 혁신이라는 두 가지 목표를 동시에 달성한다는 전략이다.
김준엽 라바웨이브 대표는 "딥페이크 범죄는 사후 대응만으로는 근본적인 해결이 불가능하므로 기술로 예방하고 국민이 직접 자신을 보호할 수 있는 환경을 만드는 것이 중요하다"며 "이번 체험 서비스를 시작으로 경찰청 및 관련 공공기관과의 협력을 더욱 강화하고 일반 국민 누구나 간편하게 딥페이크로부터 자신을 보호할 수 있는 환경을 만드는 것이 궁극적인 목표"라고 밝혔다.
헬로티 구서경 기자 |
