2017년 말에 있었던 일입니다. 미국 온라인 커뮤니티 사이트 ‘레딧(Reddit)’에 한 회원이 ‘딥페이크 (Deepfakes)’라는 이름으로 포르노 동영상을 올렸습니다. 동영상에는 포르노 배우들의 얼굴에 스칼렛 요한슨, 엠마 왓슨 등 유명 여배우들의 얼굴이 합성돼 있었습니다. 해당 영상들은 순식간에 퍼졌지만, 얼마 안 돼 가짜라는 사실이 밝혀지면서 한낱 소동으로 끝이 났습니다.

이 사건은 디지털 시대에 거짓 동영상이 얼마나 쉽게 만들어지고 확산될 수 있는지를 단적으로 보여준 사례였습니다. 또한 인공지능(AI) 기술을 이용해 조작된 동영상을 지칭하는 이른바 ‘딥페이크’ 시대의 출발점이기도 했습니다. ‘딥러닝(Deep Learning)과 ‘페이크(Fake)’의 합성어인 딥페이크는 어떤 사람이 어떤 말이나 행동을 하지도 않았는데 실제로 한 것처럼 AI 기술을 이용해 속임수를 쓰는 것을 일컫는 말입니다.

‘가짜 동영상 딥페이크’ 세상을 혼란에 빠트리다

시간이 갈수록 딥페이크가 개별 국가뿐 아니라 지구촌의 평화와 안정을 크게 해칠 수 있다는 목소리가 힘을 얻고 있습니다. 유명 정치인, 기업인, 언론인 등 정치적, 경제적으로 큰 영향력을 가진 인사들을 등장시킨 가짜 동영상이 우후죽순 퍼지면서 진실이 무엇인지 지구촌 전체가 큰 혼란에 빠져들고 있기 때문입니다.

또한 딥페이크 현상은 우리가 일상적으로 보는 동영상에 대한 불신을 부추깁니다. ‘백문이 불여일견’ 즉 ‘백 번 듣는 것이 한 번 보는 것만 못하다’는 말처럼, ‘보는 것은 믿는 것(Seeing is Believing)’에 절대적으로 큰 영향을 미치게 됩니다. 따라서 조작된 동영상이 지금처럼 세계적으로 활개를 친다면, 여론 왜곡과 민주주의의 교란은 피하기 어려운 현실이 됩니다.

딥페이크 현상은 이미 우리 현실에 깊게 침투해 있습니다. 중국 인터넷 업체 모모는 2019년 8월 말 스마트폰을 이용해 딥페이크 동영상을 만들 수 있는 앱 ‘자오’를 출시했습니다. 자오는 출시 며칠 만에 중국에서 가장 인기 있는 앱으로 등극했습니다. 이 앱은 유명 배우가 출연한 영화, 드라마 등의 동영상에서 개인 얼굴 사진을 합성해 줍니다.

예컨대 미국 인기 드라마 ‘왕좌의 게임’의 주인공 존 스노우(키트 해링턴)의 얼굴과 개인 이용자의 얼굴을 바꿔치기하는 게 가능합니다. 한 트위터 이용자는 “이 앱에서는 8초 이내에 내가 할리우드 배우 레오나르도 디카프리오로 변신할 수 있다.”라며 “지금까지 본 앱 중 최고의 딥페이크 앱”이라고 트윗을 날리기도 했습니다.

이에 앞서 2019년 5월 미국의 하원의장 낸시 펠로시가 술에 취해 횡설수설하는 것처럼 보이는 가짜 동영상이 미국 정가를 발칵 뒤집어 놓기도 했습니다. 인터넷을 통해 급속도로 확산됐던 동영상은 누군가가 의도적으로 실제 동영상의 속도를 늦추고, 음조를 조절하는 방식으로 조작한 것이었습니다. 해당 동영상은 높은 수준의 AI 기술이 사용되지 않았는데도 큰 파장을 낳아 딥페이크에 대한 공포를 확산시켰습니다. 한 달도 안 돼 마크 저커버그 페이스북 최고경영자가 출연한 딥페이크 동영상이 인스타그램에 등장했습니다.

미디어 아티스트 빌 포스터가 만든 이 동영상에서 저커버그로 보이는 인물이 “훔친 데이터로 세상을 통제하는 사람이 있다”며 자신이 세상을 지배하고 있다는 식으로 허세를 부렸습니다. 빌 포스터는 딥페이크의 위험성을 알리고자 역으로 여러 가짜 동영상을 만들었고 저커버그의 동영상 역시 그중 하나였습니다.

오늘날 인터넷과 소셜미디어에는 이런 형태의 딥페이크 동영상이 넘쳐나고 있고, 이로 인해 진짜와 가짜, 진실과 거짓이 무엇인지를 가리는 게 매우 어려워졌습니다. 한마디로 이용자들에게 더 많은 경계와 의심이 요구되고 있습니다.

“사악해지지 말자(Don’t be evil)”. 지구촌 AI 기술의 선두주자 구글의 회사 모토(좌우명)입니다. 세상에 나쁜 일을 하지 말자는 일종의 다짐입니다. 하지만 미국 실리콘밸리 대형 기업들은 딥페이크를 비롯해 기술발전의 부정적 효과들을 막기 위한 노력에 너무도 소극적이었고, 해결책을 제시하는 데도 무능했다는 평가를 받고 있습니다. 딥페이크 현상에 대해서도 마찬가지입니다.

딥페이크 퇴치를 위해 모인 기업들

이런 가운데 미국 실리콘밸리의 테크 기업들이 의미 있는 행동에 나서 화제가 되고 있습니다. 페이스북은 9월 초, 기술 업계의 AI 컨소시엄 ‘Partnership on AI’, 마이크로소프트(MS) 뿐만 아니라 미국 매사추세츠공대(MIT), 코넬대, 영국 옥스퍼드대 등에 재직 중인 AI 전문가들과 협력해 딥페이크 영상을 탐지하는 기술을 발전시키기 위한 경연 대회, 즉 ‘딥페이크 탐지 챌린지 (DFDC, Deepfake Detection Challenge)’를 연다고 발표했습니다.

알고리즘을 활용해 만든 거짓 동영상이 대중을 현혹시키는 상황을 막기 위해 조작 동영상을 가려내는 기술을 향상시키기 위한 노력의 일환인 셈이죠.

DFDC 대회는 내년 3월까지 진행됩니다. 주최 측은 2019년 12월 캐나다의 밴쿠버에서 열리는 국제회의에서 대회의 구체적인 내용을 발표하게 됩니다. 이때 전문 배우들이 출연해 만들어진 사진과 동영상뿐만 아니라 이들 콘텐츠를 변조한 동영상 등이 포함된 데이터 셋(Data Set)이 공개됩니다.

AI를 연구하는 학자들과 일반인들이 이들 데이터 셋을 이용해 딥페이크 영상을 해독하는 코드를 개발하게 하는 것이 이번 대회의 주요 목적입니다. 이번 행사를 위해 페이스북은 1천만 달러 (약 120억 원)를 기부했습니다. 이 돈은 연구비, 상금 등 다양한 명목으로 사용됩니다.

이번 행사와 관련, 마이크 슈레퍼 페이스북 최고기술책임자는 “갈수록 심각해지는 딥페이크 문제와 싸우는 데 있어서 보다 많은 도구(tool)들을 확보하고, 기술의 진보를 이뤄내기 위한 차원”이라고 대회의 취지를 밝혔습니다. 또 “기술 업계가 딥페이크 동영상을 탐지해내는 데 절대적으로 필요한 데이터 샘플을 확보하지 못하고 있는 상황을 고려한 것”이라고 덧붙이기도 했습니다.

미국 정치권도 실리콘밸리의 움직임에 환영의 뜻을 표시했습니다. 미국 하원의 정보위원장 아담 시프는 “딥페이크와의 전쟁에서 기술 업계가 스스로 취한, 진일보한 조치”라고 밝혔습니다. 시프 위원장은 “우리는 현재 딥페이크에 제대로 준비가 돼 있지 않다. 딥페이크 때문에 진짜와 가짜를 구별하기 위해 허둥대는 것보다 더 심각한 악몽은 없을 것”이라며 딥페이크에 대한 국가적 대응을 주문해 왔습니다.

하지만 DFDC 대회에 대한 우려가 없는 것은 아닙니다. 워싱턴포스트의 마리 바카 기자는 세 가지 문제를 지적했습니다. 첫째, 이번 행사가 딥페이크를 알아내는 알고리즘을 향상시키는 데 도움이 될 수 있지만 역으로 딥페이크 기술이 악용될 수 있다는 것입니다. 만약 테러단체나 특정 국가 등 범죄 집단이 이번에 개발된 기술을 딥페이크를 더욱 정교하게 만드는 데 악용할 수도 있다는 것이죠.

둘째, 이번 행사에서 제공되는 데이터 셋의 경우 배우들이 동원돼 만들어진 만큼 가공된 콘텐츠입니다. 실제 상황 속에 있는 행동하는 현실 속 인물이 아니라는 얘기입니다. 따라서 해당 데이터 셋이 현실과 차이가 있을 수밖에 없습니다. 그러므로 가공된 데이터 셋을 바탕으로 개발된 딥페이크 탐지 기술이 정확하게 인간의 표정, 억양, 행동 패턴을 반영하지 못할 수 있다는 지적이 제기됩니다. 한마디로 개발된 기술과 실제 현실 간에 차이가 있을 수 있다는 것이죠.

셋째, 이번 행사를 주관하는 학자들의 구성이 다양하지 못하다는 점입니다. 예컨대 페이스북이 DFDC 행사를 발표할 때 페이스북에 자문해 주는 학자 7명을 발표했는데, 이들 모두가 남성이었습니다. 자칫 행사를 치르는 과정에서 남성 중심주의적 편견이 작용할 수도 있다는 겁니다. 또 AI 기술이 인간과 사회에 미치는 영향이 심대한데도 사회과학 분야의 학자가 한 명도 포함되지 않았습니다. 편중된 인적 구성은 대회의 공정성을 해칠 수 있습니다.

이러한 우려에도 불구하고 기술 업계가 학계와 손잡고, 딥페이크와 싸우기 위해 뭉친 것은 분명 박수를 보낼 일입니다. 우리는 AI를 이용해 조작된 동영상들이 개인의 인권뿐만 아니라 우리의 공동체와 민주주의를 위협하는 일이 발생하는 것을 단호히 막아야 합니다. 가짜가 진짜로 둔갑해 대중의 생각을 지배한다면, 디스토피아(Dystopia, 암울한 미래상)가 어느 순간 우리 곁에 다가올지 모릅니다. DFDC가 딥페이크로 인한 민주주의의 위기를 막는데 의미 있는 행사가 되기를 희망합니다.

“사악해지지 말자(Don’t be evil)”. 페이스북 등 미국의 실리콘밸리 기업들이 이런 다짐을 얼마나 충실히 이행할지 세상이 주목하고 있습니다.

글 l 하재식 일리노이주립대 커뮤니케이션 학과 교수 (angelha71@gmail.com)