AI 발전은 인류에 혜택으로 돌아오지만 이면도 존재한다. 대표적인 예가 딥페이크다. 해커들은 AI와 딥러닝의 발전으로 인해 진짜 같은 가짜 사진, 영상 및 음성을 생성하는 능력을 증가시켰다. AI를 차치하더라도 단기간의 급격한 기술 발전은 딥페이크와 같은 부작용을 낳기도 한다. 이에 정부 및 주요 기업은 AI가 미칠 부정적인 영향에 대비해 다양한 제도와 가이드라인을 만드는 추세다. 반면 이 같은 규제가 도리어 AI 발전 속도를 저해할 수 있다는 목소리도 나오고 있다. 

현실로 다가온 딥페이크 위협

지난 1월 미국을 대표하는 팝스타인 테일러 스위프트의 얼굴 사진이 합성된 이미지가 SNS를 통해 확산된 사건이 화제가 됐다. 현재 삭제된 이 이미지는 X, 인스타그램, 레딧 등에서 공유되면서 4700만 조회 수를 기록하기도 했다. 이 끔찍한 합성 이미지를 만드는데 적용된 기술이 딥페이크다.

AI 탐지 기업인 리얼리티 디펜더는 이 합성 이미지가 AI 모델을 사용해 생성된 것이라고 확신했다. 딥페이크란 '딥러닝(Deep learning)'과 '가짜(Fake)'란 말의 합성어로, 최근에는 AI 기술을 기반으로 만들어낸 부정적인 창작물로서의 의미가 강하다. 

같은 달 또 다른 딥페이크 사건도 있었다. 미국 NBC 방송은 뉴햄프셔 프라이머리를 하루 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 퍼졌다고 보도했다. NBC 방송에 따르면, 뉴햄프셔에 거주하는 다수의 민주당 당원에게 치러지는 프라이머리에 투표하지 말 것을 요청하는 바이든 대통령 목소리의 전화가 걸려왔다고 전했다. 이에 뉴햄프셔주 법무장관실은 바이든 대통령을 사칭한 전화에 대해 불법적인 시도로 정의하며 조사에 착수할 것으로 밝혔다. 

이에 미국 현지에서는 합성 이미지를 비롯한 생성형 AI에 대한 규제를 원하는 여론이 확대되고 있다. 현재 미국 9개 주에서는 AI를 이용해 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있다. 다만, 연방 정부 차원의 규제는 사실상 존재하지 않는다. 

대비책 마련 나서는 정부 및 기업

이 같은 상황을 두고 미국에서는 생성형 AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의가 이어지고 있다. NBC방송의 보도에 따르면, 올해만 미국 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진 중이라고 밝혔다. 이 법안에는 AI로 생성한 콘텐츠에 별도 표시하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담았다.

한 예로, 네브래스카주의 경우 선거일 전 60일 동안 딥페이크 콘텐츠 유포를 전면 금지하는 법안이 민주당의 주도로 발의돼 있다. 애리조나주의 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구하도록 하는 법안을 제출했다. 아이다호주에서는 콘텐츠가 합성 이미지일 경우 합성 사실을 공표하지 않으면 배포를 금지하고, 이를 어긴 유포자를 고소하도록 하는 법안이 공화당 주도로 추진 중이다. 

알래스카·플로리다·하와이·사우스다코타 등에서도 AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안이 의회에 제출된 상태다. 바이든 대통령 딥페이크 전화로 홍역을 앓은 뉴햄프셔주의 경우, 정치 광고물에 AI를 활용한 가짜 콘텐츠를 쓸 경우 이를 고지하도록 하는 법안이 이미 지난해 말 제출됐다. 전문가들은 이같은 법안 발의가 오는 11월 미국 대선을 앞두고 딥페이크 선거운동으로 인한 위험이 현실화할 수 있다는 우려에서 시작된 것으로 해석했다. 

한편, 오픈AI, 마이크로소프트, 구글, 메타 등 생성 AI를 대표하는 빅테크는 사람을 속이는 AI 생성 콘텐츠에 공동 대응에 나선 것으로 알려졌다. 워싱턴포스트와 AP통신 등 현지 매체에 따르면, 앞서 언급된 주요 기술기업이 이런 내용을 담은 합의문에 서명했으며, 2월 16일 독일에서 열린 뮌헨 안보 회의(MSC)에서 공식 발표했다.

이들은 합의에서 AI를 활용한 가짜뉴스가 나오는 것을 업계 협력을 통해 식별하고, 가짜뉴스가 나오더라도 이에 신속히 대응하기로 결정했다. 이를 위해 가짜뉴스에 워터마크를 찍는 등의 방안이 검토되고 있다. 다만 워싱턴포스트는 이 기업들이 AI로 생성된 기만적인 콘텐츠 게시를 전면 금지하기로 한 것은 아니라고 지적했다. 앞서 AI를 이용한 가짜 콘텐츠 유포 문제가 심각해지면서 일부 기업은 이미 자체적인 대응책을 마련해 발표하기도 했다고 전했다. 

세계 최초 AI 규제법 최종 합의돼

유럽연합(EU) 27개국은 지난 2월 세계 최초로 AI 규제법에 최종 합의하는 결과를 끌어냈다. AI 규제법은 향후 유럽의회 가결 절차만을 남겨두고 있다. 유럽의회의 담당 위원회 표결을 거쳐 3월 혹은 4월께 의회 본회의에서 최종 통과될 예정이다. 법안은 올여름 이전 발효될 것으로 관측되며 먼저 적용되는 일부 조항을 제외하면 본격적인 시행은 2026년부터 이뤄질 것으로 보인다. 

3년 전 EU 집행위원회가 발의한 AI 규제법은 금융 분야에서 소매업, 자동차, 항공 분야에 이르기까지 광범위한 산업 분야에서 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정한다. 특히 초안 발의 이후 오픈AI의 챗GPT, 구글의 제미나이 등 강력한 AI 모델이 등장하면서 이른바 범용 AI 관련 규제 조항이 추가됐다. 정치·종교적 신념, 성적 지향, 인종과 같은 민감한 특성을 기준으로 사람을 분류하는 안면 인식 데이터베이스를 구축하고자 AI 기술로 생체 정보를 수집하는 관행 등이 금지된다. 

다만 군사, 범죄수사, 보안 목적 등 예외조항도 다수 포함돼 있다. AI 규제법은 이미 지난해 12월 초 EU 입법 절차상 가장 중요한 관문인 이사회·집행위·유럽의회 간 3자 협상을 통과한 만큼 이날 27개국 표결도 형식적 절차에 해당한다. 그러나 3자 협상 타결 이후에도 일부 회원국이 과도한 규제로 인한 기술 개발 저해에 대한 우려를 표명하면서 약 두 달 만인 이날 승인이 났다. 

헬로티 서재창 기자 |