딥페이크 포르노그래피

딥페이크 포르노는 배우의 얼굴에 딥페이크 기술을 적용하여 기존의 음란물을 변경하여 만든 합성 포르노입니다.딥페이크 포르노는 동의하지 않는 사람들, 대표적으로 여성 연예인들이 등장하는 사실적인 영상을 만들고 공유하는 것을 포함하고 있으며, 리벤지 포르노에 사용되기도 한다는 점에서 논란이 되고 있습니다.이러한 윤리적 문제를 해결하기 위해 법과 기술에 기반한 해결책을 통해 노력하고 있습니다.

역사

"딥페이크"라는 용어는 2017년 한 레딧 포럼에서 사용자들이 기계 학습 알고리즘을 사용하여 제작된 변경된 포르노 비디오를 공유하는 데 사용되었습니다.동영상을 만드는 데 사용되는 프로그램을 뜻하는 '딥러닝'(Deep Learning)과 실제가 아니라는 의미의 '페이크'(fake)^[1]의 합성어입니다.

딥페이크 포르노는 원래 머신러닝 알고리즘, 컴퓨터 비전 기법, AI 소프트웨어의 조합으로 소규모 개인 규모로 만들어졌습니다.이 과정은 사람 얼굴의 많은 양의 소스 자료(이미지와 비디오 모두 포함)를 수집한 다음 딥 러닝 모델을 사용하여 GAN(Generative Adversarial Network)을 훈련시켜 소스 자료의 얼굴을 포르노 배우의 몸에 설득력 있게 스왑하는 가짜 비디오를 만드는 것으로 시작되었습니다.그러나 2018년 이후 프로세스를 크게 자동화한 여러 퍼블릭 앱이 등장하면서 프로세스가 크게 발전했습니다.

딥누드

2019년 6월, DeepNude라는 다운로드 가능한 윈도우 및 리눅스 어플리케이션이 출시되었는데, 이 어플리케이션은 GAN을 사용하여 여성의 이미지에서 옷을 제거했습니다.그 앱에는 유료 버전과 무급 버전이 있는데, 유료 버전은 50달러입니다.^[3]6월 27일, 창작자들은 앱을 삭제하고 소비자들에게 환불을 해주었지만, 앱의 다양한 복사본들은 무료와 무료로 계속 존재하고 있습니다.^[4]깃허브에서는 이 프로그램의 오픈소스 버전인 '오픈딥누드'가 삭제됐습니다.^[5]오픈 소스 버전은 결과적인 누드 이미지의 정확도 수준을 높이기 위해 더 큰 누드 이미지 데이터 세트를 학습할 수 있는 장점이 있었습니다.^[6]

딥페이크 텔레그램 봇

2019년 7월 AI 기술을 사용하여 여성의 누드 이미지를 만드는 딥페이크 봇 서비스가 메시징 앱 텔레그램에서 시작되었습니다.이 서비스는 무료이며 사용자 친화적인 인터페이스를 가지고 있어 사진을 제출하고 몇 분 안에 조작된 누드 이미지를 받을 수 있습니다.봇을 호스팅하는 메인 채널, 기술 지원, 이미지 공유 채널 등 7개의 텔레그램 채널과 서비스가 연결되어 있습니다.총 이용자 수는 알려지지 않았지만, 메인 채널의 회원 수는 45,000명이 넘습니다.2020년 7월 현재 이미지 공유 채널에서 약 24,000개의 조작된 이미지가 공유된 것으로 추정됩니다.

주목할 만한 사례

딥페이크 기술은 유명한 여성들의 비동의적이고 포르노적인 이미지와 동영상을 만드는 데 사용되었습니다.가장 초기의 사례 중 하나는 2017년에 한 레딧 사용자에 의해 갤 가돗의 딥 페이크 포르노 비디오가 만들어졌고 온라인에 빠르게 퍼졌습니다.이후 엠마 왓슨, 나탈리 포트만, 스칼렛 요한슨 등 다른 여성 연예인들을 타깃으로 한 유사한 딥페이크 콘텐츠 사례가 다수 등장했습니다.^[8]요한슨은 2018년 12월 이 문제에 대해 공개적으로 발언했으며, 이 관행을 비난하지만 괴롭힘이 불가피하다고 보기 때문에 법적 대응도 거부했습니다.^[9]

라나 아유브

2018년, 인도 탐사 언론인 라나 아유브는 인도 정부, 특히 8살 카슈미르 소녀의 강간에 반대하는 발언을 한 것에 대한 비난에서 비롯된 온라인 증오 캠페인의 대상이었습니다.아유브는 강간과 살해 위협을 받았고, 그녀의 포르노 동영상이 온라인에 유포되었습니다.^[10]허핑턴 포스트의 기사에서 아유는 이 경험이 그녀에게 미친 오래 지속된 심리적, 사회적 영향에 대해 이야기합니다.그녀는 자신의 정신 건강과 세간의 이목을 끄는 사건을 맡을 때마다 이미지와 비디오가 계속해서 다시 떠오르는 방법에 대해 계속 고심하고 있다고 설명합니다.^[11]

트위치 스트리머 논란

2023년 트위치 스트리머 아트릭(Atrioc)은 여성 트위치 스트리머가 등장하는 딥페이크 포르노 자료를 라이브 도중 우연히 공개해 논란을 일으켰습니다.이후 이 인플루언서는 AI가 생성한 음란물에 대한 대가를 지불한 사실을 인정하고 여성과 팬들에게 사과했습니다.^[12][13]

윤리적 고려사항

딥페이크 CSAM

딥페이크 기술은 아동 포르노라고도 불리는 아동 성학대 자료(CSAM)를 그 어느 때보다 빠르고 안전하며 쉽게 만들어냈습니다.딥페이크는 이미 존재하는 물질로부터 새로운 CSAM을 생성하거나 성적 학대를 당하지 않은 아이들로부터 CSAM을 생성하는 데 사용될 수 있습니다.하지만 가짜 CSAM은 아이들에게 명예훼손,^[14] 몸치장, 갈취, 왕따 등 실제적이고 직접적인 영향을 미칠 수 있습니다.

딥페이크 음란물 퇴치

테크니컬 어프로치

딥페이크 탐지는 최근 가짜 동영상과 이미지의 확산이 확산됨에 따라 중요한 연구 분야가 되었습니다.딥 페이크를 탐지하기 위한 유망한 접근 방식 중 하나는 실제 이미지와 가짜 이미지를 구별하는 데 높은 정확도를 보여준 컨볼루션 신경망(CNN)을 사용하는 것입니다.딥페이크 탐지를 위해 특별히 개발된 CNN 기반 알고리즘 중 하나는 DeepRhythm으로 0.98의 인상적인 정확도 점수를 입증했습니다.이 알고리즘은 사전에 훈련된 CNN을 사용하여 관심 있는 얼굴 영역에서 특징을 추출한 다음 새로운 주의 메커니즘을 적용하여 원래 이미지와 조작된 이미지 간의 불일치를 식별합니다.더 정교한 딥페이크 기술의 개발은 탐지 노력에 지속적인 문제를 제기하지만, DeepRhythm과 같은 알고리즘의 높은 정확도는 유해한 딥페이크의 확산을 식별하고 완화하는 유망한 도구를 제공합니다.^[15]

탐지 모델 외에도 일반인이 사용할 수 있는 비디오 인증 도구도 있습니다.2019년 딥웨어는 사용자가 딥페이크 비디오를 쉽게 스캔하고 감지할 수 있는 최초의 공개 탐지 도구를 출시했습니다.마찬가지로, 2020년에 마이크로소프트는 무료이고 사용자 친화적인 비디오 인증기를 출시했습니다.사용자는 의심스러운 동영상을 올리거나 링크를 입력하고, 신뢰도 점수를 받아 딥페이크의 조작 수준을 평가합니다.

법적 접근

2023년에는 딥페이크 포르노를 구체적으로 다루는 법안이 부족합니다.대신 법원은 기존의 형사법과 민사법을 통해 그 생성과 유통으로 인한 폐해를 해결하고 있습니다.

딥페이크 포르노 피해자들에게 가장 일반적인 법적 수단은 이미지가 비합의적이고 본질적으로 친밀하기 때문에 '복수 포르노' 주장을 추구하는 것입니다.리벤지 포르노의 법적 결과는 나라마다 다릅니다.^[16]예를 들어, 캐나다에서는 비동의적인 친밀한 이미지를 게시할 경우 최대 징역 5년을 선고합니다.^[17]반면 몰타에서는 5,000유로까지 벌금이 부과됩니다.^[18]

'딥페이크 책임법'은 2019년 미국 의회에 도입됐습니다.이와 같이 공개되지 않은 디지털 변조된 영상매체의 제작과 유통을 범죄로 규정하고자 한 것입니다.제목에는 참가자에게 굴욕감을 주거나 다른 방법으로 해를 가할 목적으로 성적이고 비동의적인 변조된 매체를 만드는 것은 5년 이하의 벌금이나 징역 또는 둘 다에 처해질 수 있다고 명시되어 있습니다.하지만 이 법은 아직 제정되지 않았습니다.^[19]

분포조절

몇몇 주요 온라인 플랫폼은 딥페이크 포르노를 금지하는 조치를 취했습니다.2018년 현재 gfycat, reddit, twitter, discord, Pornhub 등은 모두 자사 플랫폼에 딥페이크 포르노 콘텐츠를 업로드하거나 공유하는 것을 금지하고 있습니다.^[20][21]같은 해 9월 구글은 "자발적 합성 포르노 이미지"를 금지 목록에 추가하여 개인이 검색 결과에서 해당 콘텐츠를 삭제하도록 요청할 수 있게 했습니다.^[22]그러나 Pornhub가 비동의적인 콘텐츠에 반대하는 입장을 취했지만 웹사이트에서 "딥페이크"를 검색하면 여전히 결과가 나오고 딥페이크 웹사이트와 콘텐츠에 대한 광고를 계속 실행한다는 점에 주목할 필요가 있습니다.

참고 항목

• 가짜 누드 사진

참고문헌