큰사진보기
▲  피해자를 보호하기 위해 딥페이크를 이용하여 가상의 인물을 만든 <그것이 알고싶다> 방송 화면
ⓒ SBS	관련사진보기

 
지금까지는 보지 않고는 믿지 않는다고 말해 왔는데, 이제는 보고도 믿을 수 없는 시대가 되었다. 딥페이크 기술이 우리의 일상에도 가까이 다가왔기에 유튜브, 티비 프로그램을 시청하거나 소셜네트워크서비스(SNS)를 이용할 때 내용의 진위뿐만 아니라 창작물 자체의 사실여부를 고려해야 하는 시대가 온 것이다. 딥페이크 기술은 갈수록 발전하고 활용되는데 사회제도와 개인의 인식은 이에 발맞추지 못하는 실정이다.

딥페이크(Deep Fake)는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로 인공지능을 기반으로 인물의 표정과 안면근육을 분석하거나 특정 인물의 얼굴을 다른 이의 몸에 붙여 합성하는 이미지 합성 기술이다. 2014년 생성적 적대 신경망(GAN, Generative Adversarial Network)이라는 딥러닝 생성기술의 등장으로 어떤 대상을 생성하고 다시 판별모델로 생성된 것이 무엇인지 맞추는 과정을 반복하여 생성모델과 판별모델을 계속 발전시켜 실제와 유사한 데이터를 생성해낼 수 있는 모델 GAN이 딥페이크 기술의 배경이라고 보고 있다.

최근 SNS에서 사진을 분석해 사람의 눈, 코, 입을 재배치 하여 간단하게 영화의 주인공이 된 것처럼 표정을 만들고 합성해주는 기술을 이용한 동영상이 유행하고 있다. 사진 한 장을 기반으로 만드는 영상이기에 어색한 느낌이 있지만, 딥페이크 기술을 인공지능을 기반으로 하는 시스템으로 학습을 거듭할수록 진짜와 가짜의 차이를 구분하기 어렵게 된다.

그렇기에 사진과 영상 등 인공지능이 학습할 수 있는 데이터가 많은 유명인의 경우 실제인지 아닌지 확인할 수 없을 정도로 헷갈리는 영상들도 등장하고 있다. 유명인뿐만 아니라 일반인이더라도 데이터로 이용할 수 있는 사진과 영상이 있다면 딥페이크를 활용한 창작물 제작이 가능하기에 딥페이크 기술은 많은 분야에서 활용되고있다.

양날의 검, 딥페이크

'디오비스튜디오(dob studio)'는 버츄얼 휴먼 '루이 리(Rui Li)'와 같은 가상인물을 만들어 유튜브 채널을 운영하고 있다. 디오비 스튜디오의 오재욱 대표는 사생활 문제와 같은 제약이 있는 연예인에 비해 가상인물은 제약에서 자유롭기에 가상인물을 통해 콘텐츠 사업이 갖는 한계점을 해결하고자 한다고 말한다.

<그것이 알고 싶다> 딥페이크 편에서 디오비스튜디오는 딥페이크 범죄 피해자를 모자이크 처리하는 방식이 아니라 딥페이크를 기술을 통해 가상얼굴을 만들어 피해자의 신변을 보호하는 방법을 택했다. 딥페이크 피해자에게 딥페이크를 적용하여 딥페이크 기술에 대해 부정적으로 인식하고 있는 사람들에게 딥페이크의 순기능을 알리려 한 것이다.

연세대 손의성 교수는 더이상 실존하지 않는 인물을 등장시키거나 배우의 나이를 어리게/늙게 할 필요가 있을 때에도 딥페이크 기술이 활용될 수 있으며 결과물의 퀄리티가 좋아질수록 영상 산업에서도 더욱 활용도가 높아질 것이기에 향후 증강현실(AR), 가상현실(VR) 분야와 접목된 컨텐츠의 활용이 늘어날 것으로 전망된다고 말했다.

실제로 MBC의 스페셜 다큐멘터리 <너를 만났다>에서는 6살 때 죽은 딸과 엄마가 VR 기술로 다시 만나는 휴먼 다큐멘터리를 방송했으며, Mnet AI 음악 프로젝트 '다시 한번'에서도 고인이 된 터틀맨이 생전 영상과 목소리를 분석한 AI기술로 무대에서 노래를 부르는 모습을 확인할 수 있었다.

기술의 발전과 함께 딥페이크 합성물은 더욱 구분이 어려울 정도로 자연스럽고 정교한 결과물로 발전할 것으로 기대된다. 분명 유익한 점도 있지만, 양날의 검과 같이 거짓이나 조작된 정보를 양산할 수 있는 위험을 동시에 가지고 있는 기술로 보인다.

법무법인 진솔 대표변호사 강민구 변호사는 딥페이크는 원본의 안면윤곽 안쪽부분만(눈코입과 피부톤)만 영화의 CG처리처럼 정교하게 합성하는 기술이어서 육안으로 가짜임을 구분하기가 매우 어렵다고 말하며 타인의 명예훼손이나 허위사실 유포하는데 사용될 수 있으며 특히 증거조작을 통해 재판상 이익을 얻을 수 있는 위험성이 있다고 말했다.

실제로 연예인의 사진을 이용한 성착취 영상물을 제작하고 판매하여 구속된 사례뿐만 아니라 일반인이 SNS에 올린 사진을 도용하여 성착취 영상물을 제작하고 유포하고 판매한 사례도 발생했다. 성착취 영상물을 이용한 성폭력 범죄뿐만 아니라 영국의 디지털 예술가 빌 포스터가 '스펙터 프로젝트'라는 이름으로 올린 영상은 보고도 믿을 수 없는 사회가 도래했음을 확신하게 한다. 빌 포스터는 도널드 트럼프 전 미국 대통령, 마크 주커버그 등 유명 인물의 얼굴을 조작해 그들이 하지 않은 말을 실제 말한 것처럼 합성했다.

딥페이크 악용에 대한 처벌

딥페이크 악용사례 처벌에 대한 현행법은 '성폭력범죄의 처벌 등에 관한 특례법 14조의 2'에서 찾아볼 수 있다. 해당법에 따르면 대상자의 의사에 반하여 성적욕망 혹은 수치심을 유발할 수 있는 형태로 편집, 합성, 또는 가공한 자는 5년 이하의 징역 또는 5천만원이하의 벌금에 처한다. 또한 이 편집문을 반포한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처하고, 영리를 목적으로 영상물 등의 대상자의 의사에 반하여 반포한 자는 7년 이하의 징역에 처한다고 명시되어있다.

이는 이전에 음란유포죄나 명예훼손 정도만 처벌되던 디지털 성범죄처벌규정에 특정 인물의 신체 등을 대상으로 한 영상물 등을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집하는 '딥페이크' 등으로 인한 피해가 증가함에 따라 이를 처벌하기 위해 2020년 3월 개정된 디지털성범죄처벌 규정이다.

딥페이크 악용 영상에 성적 욕망 또는 수치심을 유발할 수 있는 내용이 없다면 성폭력범죄의 처벌 등에 관한 특례법으로는 처벌이 불가능하다. 다만 딥페이크로 타인의 명예를 훼손하거나 모욕을 줄 경우에는 형법상 명예훼손죄(5년 이하의 징역, 10년 이하의 자격정지 또는 1천만원 이하의 벌금)나 모욕죄(1년 이하의 징역이나 금고 또는 200만원 이하의 벌금)로 처벌이 가능하며 나아가 증거를 조작하는데 사용할 경우 형법상 증거위변조죄로 처벌될 수 있다.

법무법인 진솔 강민구 대표변호사는 성범죄 외에 일반적인 딥페이크로 인한 명예훼손이나 모욕죄를 신설해 더욱 가중처벌해야 한다고 주장한다. 딥페이크는 워낙 정교해서 일반인이 사실로 오인할 가능성이 매우 크고 파급력과 파괴력이 막강하기 때문에 딥페이크 범죄에 대한 형사상 강력한 처벌 및 민사배상을 통해 예방적 효과를 누리자는 것이다.

마크 저커버그의 영상이나 트럼프, 오바마와 같이 세계적으로 영향력 있는 인물의 발언은 논란이 되고 혼돈에 빠질 수 있다. 그렇기에 딥페이크 악용 사례 시 처벌 가능한 법인 명예훼손죄와 모욕죄를 딥페이크 악용 사례에서만이라도 강화한다면 예방적 효과를 누릴 수 있을 것이다.

딥페이크 악용 사례 처벌 규정에서 성폭력 범죄의 특례법은 딥페이크 제작물을 소유한 사람은 처벌하지 않고 제작하고 반포한 자에게만 처벌하도록 규정하고 있다. 하지만 N번방사례를 통해 우리는 수요가 있기에 공급이 있고, 공급이 먼저라고 존재했다고 하더라도 수요가 있기에 운영되고 반복됨을 확인할 수 있었다.

강민구 변호사의 말처럼 딥페이크의 정교한 기술로 인해 진위를 구분할 수 없을 정도의 영상은 막강한 파급력을 가져오고 진실이 아닌 것이 진실이 될 수 있다. 그렇기에 딥페이크 제작물을 제작, 반포한 사람을 더불어 구매자도 처벌받는다면 딥페이크 기술 악용으로 피해받는 사람이 사라질 것이다.

딥페이크 기술의 잠재적 위험성

대부분의 기술이 그렇듯 딥페이크 기술 또한 기술 자체로 선과 악을 규정할 수 있는 것이 아니라 이를 활용하는 사회와 개인에 의해 유용하게 사용될 수도 법적으로 문제가 있고, 피해자를 만드는 방향으로 사용될 수 있다. 딥페이크 기술 역시 다른 기술과 마찬가지로 '양날의 검'인 셈이다. 딥페이크 기술에 대응하기 위해 우리는 법적, 개인적, 사회적으로 딥페이크에 대한 충분한 논의가 이뤄진 후 적절한 제도가 마련되고, 사람들이 경각심을 가져야 할 것이다.

디오비 스튜디오 오제욱 대표는 사회의 끊임없는 관심으로 딥페이크에 대한 규격과 질서가 잡히고 적절한 제도권 안에서 딥페이크 기술을 활용할 때 순기능으로 작용한다고 말한다. 많은 기술들이 인류를 이롭게 하기 위해 개발되지만 관련 제도나 법규가 확립되기 전까지는 쉽게 돈을 벌기 위헤 범죄에 악용되는 것이 역사적으로 반복돼왔다고 말한다.

그렇기에 관련 법규와 제도를 수립하고 이용자들과 생산자들을 대상으로 하는 리터러시 교육이 병행되고, 비윤리적인 악용의 사례에 대해 엄정한 처벌이 이뤄질때 딥페이크 기술이 순기능으로 인류를 이롭게 하는 데에 사용될 수 있다고 말한다.

그렇기에 사회는 기술이 악용되는 것을 예방하고 피해를 최소화 하기 위한 교육과 분위기 조성, 실질적인 SW/HW 장치를 마련하고 개인은 기술의 발전을 인지하고 언제는 속을 수 있다는 경각심을 가져야한다고 말하며 사회와 제도가 기술의 발전과 발맞춰야 한다고 말한다.

초록소프트 대표이자 <이것이 인공지능이다>의 저자인 김명락 대표는 딥페이크 기술을 활용하면 과거보다 쉽게 진짜처럼 만들 수 있기에 위조가 더 빈번해질 것이라고 예상한다. 그렇기에 이런 기술을 원천 봉쇄하는 기술들도 발전할 것이고 최근 부상하고 있는 NFT 기술이 원본의 가치를 지킬 수 있는 대안이 될 수 있다고 말한다. NFT 기술이란 대체 불가능한 토큰('Non-Fungible Token')의 뜻으로 블록체인 위에 단 한 개만 존재하도록 만든 디지털 토큰이다.

'단 하나'라는 독자성이 유지되고, 블록체인 기술을 쓰기에 위·변조의 위험도 없다. 무한 복제가 가능한 디지털 파일에 '유일성'을 부여하여 디지털데이터의 위변조가 불가능한 기술이 만들어지는 것이다. 각 콘텐츠당 하나의 NFT만 존재하고 디지털 세계의 원작을 만드는 개념이 된다. 이 기술을 통해 재편집하여 재생산한 작품이 원본이 아님을 확인할 수 있고, 그렇기에 딥페이크 기술 적용이 불가능한 것이다.

그렇기에 딥페이크 기술로 쉽게 따라할 수 있는 것과 그렇지 않은 것의 차이가 크게 갈릴 것이라고 말한다. 딥페이크 기술은 결국 이미 존재하는 것을 비슷하게 따라하는 것에 불과하는 것이기에 원래의 무언가를 스스로 창출해내는 사람의 가치가 더욱 커질 것이라는 것이다. 김명락 대표는 딥페이크는 저작권을 침해하는 수단이기에 저작권을 보호하려는 문화와 환경의 중요성과 저작권을 지키기 위한 기술적인 접근과 정책적인 노력이 필요할 것이라고 말한다.

김명락 대표의 말처럼 현재 사회에서는 딥페이크 기술을 원천봉쇄하는 기술 뿐만 아니라 딥페이크가 적용된 영상을 찾아내는 기술도 개발되어 딥페이크 창작물에 대응하고 딥페이크 기술의 잠재적 위험에 대응하려 노력하고 있다.

기술 자체로 얻을 수 있는 실이나 득보다 더 중요한 것은 기술 활용시 발생하는 위험성을 인지하고 대처하는 것이다. 딥페이크 기술은 인공지능을 기반으로 데이터의 학습을 통해 진짜와 구분할 수 없는 합성물을 만들어낸다는 특성때문에 범죄로 활용될 가능성이 매우 많다. 그렇지만 딥페이크 기술 활용시 얻을 수 있는 순이익 또한 있음을 부정할 수 없다.

그렇기에 개인은 거짓 콘텐츠의 생산과 소비를 경계하고 경각심을 가져야하며, 언론은 딥페이크 행위가 단순 장난이 아닌 범죄임을 매체를 통해 전달하여 경각심을 일깨워야할 것이다. 사회적으로는 딥페이크 감지기술의 개발에 많은 관심과 투자를 기울여야하고, 콘텐츠에 대한 조작을 처벌하고 무고한 사람들을 구제할 수 있는 법적 세스템을 마련하는 것이 앞으로 딥페이크와 함께하는 우리가 가져야 할 숙제이다.