헬로티 함수미 기자 |
‘AI Aㅏ는 척’ 시리즈에서는 AI를 전혀 모르겠다는 독자들에게 어느 정도 아는 척! 은 할 수 있게 필요한 부분만 간단하고 쉽게 설명합니다. 우리 생활 곳곳에 스며든 인공지능, 필요한 부분만 쉽게 알아보는 건 어떨까요?
AI Aㅏ는 척 시리즈, 이번에는 ‘딥페이크’에 대해 아는 척 해보고자 합니다.
양날의 검, 딥페이크
‘딥페이크’ 들어보셨나요? 누군가에게 딥페이크는 범죄에 쓰이는 기술, 혹은 획기적인 기술로 알고 있을 것 같습니다.
같은 기술에 대해 받아들이는 인식이 왜 이렇게 다를까요? 그 이유는 딥페이크 기술이 양날의 검이기 때문입니다.
예를 들어, 칼은 요리할 때 쓰이면 너무나 유용한 도구이지만 누군가를 공격할 때 쓰이면 무서운 도구죠. 이처럼 딥페이크 기술도 좋은 목적으로 활용하면 획기적인 AI 기술이지만, 범죄에 악용하면 그만큼 무서운 기술이 되기 때문입니다.
딥페이크가 그래서 뭔데?
말 그대로 DEEPFAKE는 딥러닝과 페이크의 합성어인데요. AI 핵심기술인 딥러닝을 이용해 특정 사람의 얼굴이나 신체를 합성하고 억양, 목소리까지 따라 할 수 있는 기술입니다.
이 딥페이크 기술은 기존 사진이나 영상을 원본에 겹쳐서 만들어내거나, 가상의 인물을 처음부터 만들어낼 수 있을 정도까지 발전했습니다. 인공지능의 기술은 어느새 진짜와 가짜를 구분할 수 없는 수준에까지 이르렀는데요.
딥페이크는 2014년 등장한 머신러닝 기술인 ‘적대관계생성신경망(Generative Adversarial Networks, 이하 GAN)’을 이용한 기술입니다. GAN은 AI모델을 생성모델과 분류모델로 구분해 각 모델의 학습을 반복하는 과정을 거칩니다.
이 과정에서 생성모델(실제와 유사한 데이터를 생성하려는 모델)과 분류모델(데이터의 진위여부를 판별하는 모델)은 서로를 적대적 경쟁자로 인식하며, 서로 이기기 위한 학습을 거칩니다. 이를 통해 원본과 구별이 거의 불가능할 정도로의 정교한 합성이 만들어지는 것입니다.
내가 아닌데 내가 있어.. 딥페이크 기술의 악용
딥페이크 기술은 인공지능 기술에 대한 무궁한 발전과 기술의 가능성을 보여주지만, 그만큼 악용되면 매우 위험한 기술입니다. 가짜와 진짜를 구분할 수조차 없는 이 딥페이크 기술은 많은 범죄에 악용되고 있어 딥페이크 기술 존재 자체에 대한 찬반 논쟁까지 이어지고 있는데요.
가상의 인물을 만들어내거나, 기존의 사진과 영상으로 토대로 새로운 영상을 만들어낼 수 있는 이 딥페이크 기술의 시작도 합성 포르노라는 범죄가 시작이었습니다. 2017년 유명 연예인과 포르노를 합성한 엽상 업로드를 딥페이크의 시초로 보고 있기 때문입니다.
우선 가장 심각한 범죄는 합성 포르노입니다. 연예인뿐만 아니라 일반인까지 얼굴 합성 포르노 피해자 사례가 증가하고 있기 때문입니다.
지난해 한국 경찰은 디지털 성범죄 특별수사본부를 운영해 총 2천 8백여 건의 사이버 성폭력 범죄를 단속하고, 3천 5백여 명을 검거하는 등 딥페이크를 활용한 디지털 성범죄가 급격히 증가하고 있습니다.
가짜뉴스 또한 심각한 문제로 발생하고 있습니다. 가짜를 진짜처럼 만들 수 있는 기술이 있는 만큼, 가짜를 진짜처럼 속여 사회적 혼란을 일으키기 때문에 딥페이크 기술에 대한 불안은 커지는 것입니다.
영상 특수효과·신원보호...딥페이크 장점
AI 기술이 처음부터 범죄에 이용하기 위해 만들어진 것은 아닙니다. 딥페이크 기술은 영상 산업에 적극적으로 활용되고 있습니다. 딥페이크를 활용하면 쉽고 간편하게 특수효과를 만들어 내거나 AR 영상을 제작할 수 있기 때문입니다.
예를 들어 2016년에 개봉한 <Rogue One>에는 1977년 작 <Star Wars: A New Hope>에 출현한 배우가 당시의 모습 그대로 등장했습니다. 외형적으로 유사한 대역 배우를 섭외한 후, 대역배우의 얼굴에 과거 배우의 얼굴을 합성하는 모션 캡처 기법과 딥페이크 기술을 활용했기 때문입니다.
또한 딥페이크 기술은 신원보호의 영역에서도 활발하게 사용되고 있습니다. 지난 2월 SBS ‘그것이 알고 싶다’는 딥페이크 범죄로 피해를 입은 두 여성의 인터뷰를 딥페이크 기술로 제작했습니다.
표정과 얼굴을 가리는 모자이크 대신, 익명성을 보장하면서 감정과 표정을 전달할 수 있는 딥페이크 기술은 여러 분야에서 활용될 전망이 높을 것으로 보인다고 전문가들은 입 모아 말합니다.
이상 인공지능 머신러닝 기술로 만들어낸 딥페이크 기술과, 기술의 가장 큰 장단점에 대해 간단히 알아봤습니다.
딥페이크 기술은 양날의 검처럼 이로운 부분과 해로운 부분이 명확히 구분되는데요. 앞으로 더 발전해 나갈 인공지능·딥페이크 기술을 올바르게 사용하기 위해선 악용할 부분에 대한 대처·규제도 필요할 듯 보입니다.
