카카오, 딥페이크 허위 조작 정보 근절 방안의 하나로 제시해

 

카카오의 인공지능(AI) 이미지 생성 모델 '칼로'에 비가시성 워터마크 기술이 도입됐다.

 

카카오는 13일 딥페이크 허위 조작 정보 근절 방안의 하나로 이 같은 방안을 시행한다고 밝혔다. 이는 작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조처다. 

 

 

카카오는 인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이뤄지는 만큼, 카카오톡 채널 '칼로 AI 프로필' 기능에 비가시성 워터마크를 먼저 도입했다고 소개했다. 또한, 이미지 생성 웹 기반 전문가 도구인 '칼로.ai'에도 이달 내 비가시성 워터마크가 도입될 예정이라고 덧붙였다. 

 

비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 가시적 이미지 훼손 없이 칼로로 생성된 이미지라는 정보를 담는다. 카카오는 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크가 제거되거나 훼손되지 않는다고 설명했다. 

 

카카오는 "이미지 생성 애플리케이션인 '비 디스커버(B^ DISCOVER)'에는 가시성 워터마크를 이미 도입한 바 있다"며 "앞으로 남은 선거 운동 기간 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어갈 방침"이라고 강조했다.

 

헬로티 서재창 기자 |