얼마전 해외 사이트를 통해 유통되는 Deepfake 성인 영상의 25%가 한국연예인을 합성한 것이라는 기사가 보도되었습니다. 한류의 영향으로 한국 연예인의 사진을 구하기도 쉽고, 그만큼 인기도 많다는 얘기일텐데요, 한류가 세계로 뻗어나가는 것은 좋지만 이런 부작용도 생기네요.
많은 분들과 언론 등에서 DEEP FAKE의 부작용과 각종 범죄에 악용될 것이라며 우려를 표하고 있습니다. 과연 딥페이크란 무엇인지, 악용사례, 대비책 등에 대해 포스팅 해보도록 하겠습니다.
새로운 기술도 많이 나오고, 새로운 용어도 많이 생기고, 점점 시대에 뒤쳐지는 것은 아닌가라는 생각이 들어 짬짬히 새로운 기술들에 대해 정리를 하고는 있는데 버겁긴 하네요.
* 딥페이크란.
어원과 관련하여 일부 언론에서는 딥러닝(DEEP LEARNING : 심층 기계학습)과 페이크(FAKE : 가짜)의 합성어로 인공지능을 이용한 가짜 영상이라고 설명하고 있습니다만, 뭐 어느 정도 맞는 말이기도 하지만 딥페이크라는 용어가 처음 등장하고 화제가 된 것은 2017년 12월 딥페이크라는 영상제작자가(Reddit사용자) 인공지능 기술을 이용해서 특정 인물의 가짜 영상을(성인영상) 인터넷에 공개하면서 논란이 유발되었고, 이런 인공지능을 이용한 영상에 딥페이크라는 명칭을 사용했다는 것이 더 맞는 표현인 듯 합니다. 일종의 고유명사처럼 사용된 것이죠.
딥페이크란 인공지능의 생성적 대립신경망(GAN) 기능을 이용하여 영상을 합성하는 것인데요. 간단히 말하면 기존에 포토샵을 이용하여 사진을 합성하던 것을, 컴퓨터에 원본이 되는 사진이나 영상을 입력해주면 컴퓨터가 알아서 영상을 합성해 준다고 보시면 됩니다.
사진 어플 중 어린 시절의 모습을 보여준다던가, 늙은 모습을 보여준다던가 하는 것도 기초적인 딥페이크 영상의 일종이라고 보시면 될 듯 합니다.
현재는 대부분의 영상이 어느 정도 어색한 점도 보이고, 시간도 오래걸리지만(반나절에서 하루), 꽤나 성능이 좋은 컴퓨터 및 프로그램, 오랜 시간을 들인 영상은 원본영상이라고 해도 믿을만큼의 퀄러티를 보여주고 있습니다. 또한 소스코드 또한 무료로 공개되어 있는 상태입니다.
유튜브에 딥페이크라고 검색만 해봐도 상당히 많은 영상이 뜨니 궁금하신 분은 찾아보시길.
* 딥페이크기술의 악용사례.
– 독일의 신용보험사 율러헤르메스 그룹의 CEO 목소리를 딥페이크 기술로 위조하여 보이스 피싱에 이용해 22만 달러의 송금을 받아냄
– 쓸데없는 데 부지런한 중국의 경우 치하오 비루오라는 뷰티 스트리머가 딥페이크 프로그램을 이용해 개인 방송을 하다가 프로그램 오류로 원래 얼굴이 밝혀져 해당 채널이 망했다던가(실제 58세의 중년여성), 무료 딥페이크앱이 출시되어 많은 사회적 문제가 야기됨.(지인을 합성한 영상, 리벤지포르노 등)
– 가장 문제가 되는 것은 각종 성인영상에서의 이용일텐데요. 얼마전 기사에도 나왔듯이 한국 연예인들이 표적이 되고 있습니다. 네덜란드의 보안업체인 딥트레이스의 보고서에 따르면 딥페이크 영상의 한국여성 연예인 피해자가 전체의 25%에 이른다고 합니다. 대부분 해외에 기반한 SNS, 사이트, 텀블러 등을 이용해 퍼지고 있기 때문에 처벌도 쉽지 않은 상황입니다. 거기에 딥페이크가 유명해지면서 해당 영상을 찾아보고 각종 댓글을 다는 2차 가해도 이어지고 있는 상황입니다.
– 독일 뤼벡대 의료정보학연구소 GAN기반의 딥러닝 알고리즘을 활용해 암진단에 탁월한 성과를 보인 인공지능을 개발했다는 논문을 공개하면서 딥페이크기술이 좋은 쪽으로 활용되는 사례도 있긴 합니다.
* 딥페이크는 막을 수 없을까
딥페이크 영상의 경우, 촬영이 아닌 합성이므로 성폭력처벌법으로 처벌이 어렵습니다. 해당 법령이 없기도 하고(현재 국회 발의중이나, 공사다망하신 국회의원님들께서 과연 언제쯤 처리를 해주실런지…..) 국내에 관련 법령이 생긴다고 해도 해외에 서버를 둔 사이트나 SNS 텀블러 등을 통해 유통이 되며, 피해를 당한 당사자가 알기도 어렵습니다.
현재 할 수 있는 일은 해당 영상을 만든 당사자나 유통시킨 사람을 명예훼손이나, 정보통신망 이용촉진 및 정보보호등에 관한 법률 44조7에 의거하여 처벌하거나(1년이하 징역 혹은 1000만원 이하의 벌금), 형법제 244조를 이용한 음란한 문서, 도화, 필름 제조로 처벌(1년 이하의 징역 또는 500만원 이하의 벌금)하는 정도의 방법이 있겠습니다.
한 사람의 인생을 망칠지도 모르는 일을 하는 것에 비해서는 정말 터무니 없이 약한 벌입니다.
페이스북, 마이크로소프트, 미국 MIT공대, 코넬대 , 옥스퍼드대, 등이 연합하여 딥페이크 탐지 챌린지 등을 여는 등 어느 정도 자정 노력을 하고는 있지만, 페이스북의 경우 조작영상을 삭제하지 않아서 논란이 되기도 했고, 해당 연구가 딥페이크영상인지 아닌지를 판독하는 것이므로, 현재 문제가 되는 영상들의 처벌하거나 막는 것과는 거리가 있습니다. (기업의 경우 돈이 되는 일에는 적극적으로 투자하지만, 딥 페이크를 막는 것은 돈이 되지 않으니, 기업 쪽에서 엄청난 비용과 노력을 들이는 것에는 개인적으로 회의적입니다.)
일부 사이트의 경우 딥페이크 영상을 삭제하고, 영상의 업로드를 제한하고 있지만, 아직도 많은 사이트, sns에서 버젓이 돌아다니고 있습니다.
국내에서도 딥페이크가 문제되었던 2017년 이후 어느 정도 노력은 하고 있지만, 과연 어느 정도 실효를 거둘지도 의문입니다. 각종 리벤지 포르노에 대한 처벌과 대처도 약한 판에. … 기술의 발전 속도를 사람의 도덕이나 법률이 따라가지 못하는 시대가 온 듯 합니다.
국회에서도 입법을 추진중이지만, 이미 인터넷망으로 세계적으로 얽혀있어, 전세계적인 대응과 처벌(영상 삭제, 게시자 및 제작자, 유통자 처벌, 해외 서버 폐쇄등)이 필요하지만, 과연 돈 안되는 일을 세계적으로 함께 모여서 머리를 맞대 논의할 일은 없을테니…. 피해는 일반인이 보고, 돈은 나쁜 놈들이 벌고, 힘 있는 사람들은 하는 시늉만 하는 이런 일들이 언제까지 반복될지 … 현재로선 그냥 조심하는 수 밖에는 없는 듯 합니다란 아무 도움도 위안도 안되는 말 밖에는 할 말이 없네요.
핑백: 대화형 인공지능 chat gpt란? 챗 gpt 회원가입 방법. 챗 지피티. - BASIC