양날의 검, 딥페이크

▲ 젤렌스키 대통령이 우크라이나 국민들에게 항복을 촉구하는 딥페이크 조작 영상

  최근 영화와 방송 등 다양한 곳에서 딥페이크를 활용한 것을 볼 수 있다. 딥페이크는 영화나 방송 등에서 이미 사망하거나 은퇴한 배우를 스크린에 되살리거나 초상권 보호 등을 위해 사용해 제 2의 삶을 만들어내는 신기술이라고 평가받는다. 그러나 한편으로는 유명인의 ▲가짜 포르노 ▲가짜 뉴스 ▲도용 문제 등 악의적 사기를 만드는 데에 사용돼 논란이 되며 딥페이크 기술은 많은 윤리 논쟁을 만들어냈다. 최근 SBS <그것이 알고 싶다>에서도 이런 딥페이크의 양면성을 다루기도 했는데 딥페이크란 무엇이고 어디에 어떻게 활용되고 있는지 알아보자.

  진짜와 가짜를 넘나들다

  딥페이크란 딥 러닝(Deep Learning)과 가짜(Fake)의 합성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술을 말한다. 적대관계생성신경망(GAN: Generative Adversarial Network)이라 불리는 기계학습(ML) 기술을 통해 기존 사진이나 영상을 원본에 겹쳐서 만들어 낸다. 딥페이크가 처음 세상에 알려진 것은 2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상으로부터다.

‘  Deepfakes’라는 아이디를 쓰는 이용자가 오픈소스 소프트웨어(SW) 텐서플로(TensorFlow)를 활용해서 유명 연예인과 포르노를 합성한 영상을 올렸다. 이후 ‘FakeApp’이라는 무료 소프트웨어가 배포되면서 기술을 배우지 못한 일반인도 간편하게 딥페이크 영상을 만들어 올리기 시작했다. 점차 딥페이크 기술은 진짜와 구분하기 어려운 수준까지 발전했다.

  딥페이크의 끝없는 변신

  그렇다면 딥페이크를 어디서 이용할까? 딥페이크는 영화 산업에서 자주 활용되는데, 영화 <스타워즈:로그 원>에서는 고인이 된 배우 캐리 피셔의 얼굴이 이 기술로 합성돼 레아 공주로 등장했다. 또한 지난 3월 인공지능(AI) 전문기업 머니브레인에서는 머니브레인이 보유한 독보적인 수준의 딥러닝 기반 AI 영상·음성 합성 기술을 이용해 금융권 최초로 KB국민은행에 AI 키오스크 상담원을 공급한 바 있다. 특히 머니브레인의 ‘AI 키오스크’는 ▲음성 합성 ▲영상 합성 ▲자연어 처리 ▲음성 인식 등을 융합한 대화형 인공지능 기술이 적용돼 실제 사람과 유사한 수준의 상담 및 안내 서비스를 구현했다.

  이외에 SBS <그것이 알고 싶다>에서는 일반인 두 여성의 인터뷰를 모자이크를 하지 않고 딥페이크 기술로 제작해 얼굴을 내보냈다. 인터뷰를 지켜봤던 시청자들은 방송에서 밝힌 뒤에야 딥페이크를 이용했던 것을 알 수 있었다. 딥페이크는 SBS <그것이 알고싶다>에서처럼 피해자가 얼굴을 드러내지 않고 피해 사실을 말하거나 증언할 때 초상권 보호의 목적으로도 이용될 수 있다. 그러나 최근 딥페이크 기술을 이용한 범죄가 빈번히 일어나 문제가 되고 있다.  

  범죄에 감춰진 딥페이크

  최근 딥페이크를 이용한 신종 범죄수법이 잇따라 나오고 있다. 취업준비생 A 씨는 지난해 11월 보이스피싱 사기에 가담한 혐의로 입건됐지만 억울함을 호소하는 것으로 전해졌다. ‘스타트업 회계 업무 구인 광고’를 통해 아르바이트 자리를 구했다가 보이스피싱 조직으로부터 사기를 당한 것이다. A씨가 조직에 “이런 일인 줄 몰랐다. 그만두겠다”라고 하자 조직원은 “이력서 사진을 딥페이크 음란물에 합성해 퍼뜨리겠다”라고 협박한 사례가 있었다.

  또 다른 사례로는 10대 청소년들이 딥페이크를 범죄에 이용한 일이 있었다. 지난 해 5월 13일(목) 불법 합성 음란물 배포 및 제작을 의뢰한 10대들이 검거됐다. 청소년 A군은 유명 연예인의 얼굴을 타인의 신체 사진에 불법으로 합성한 사진을 3,528장 제작해 해외에 서버가 있는 사회관계망서비스과 오픈채팅방을 통해 유포했다. 또 다른 청소년 B군은 특정인물의 사진을 음란물과 합성해 지인들에게 유포했다. 이들은 지인을 곤란하게 하거나 쉽게 돈을 벌 목적으로 이 같은 범행을 저지른 것으로 조사됐다.

  대중의 주의, 더 이상 불가피

  딥페이크는 인터넷에 공개된 무료 소스코드로 누구나 손쉽게 제작이 가능하며 진위 여부를 가리기 어려울 만큼 정교하다. 주로 SNS를 통해 제작을 의뢰하고 합성물을 받기 때문에 운영 계정을 탈퇴할 경우 단속을 피할 수 있어 처벌이 어렵다는 문제도 있다.

  딥페이크를 좋은 면으로도 사용할 수 있지만 범죄로 악용되는 경우가 많아 대중들이 경각심을 가질 필요가 있다. 딥페이크를 이용한 사진이나 영상물을 접할 때 악용된 것은 아닌지 알아보고 불법 딥페이크의 소비를 지양하는 태도가 필요하다. 최근에는 선거 시즌에 맞춰 불법 음란물뿐만 아니라 정치인을 이용한 가짜 뉴스 제작하고 있어 대중들의 더욱 큰 주의가 필요해 보인다.