Page semi-protected

딥페이크

Deepfake

딥페이크("딥 러닝"과 "페이크"[1]합성어)는 한 사람의 유사성을 다른 사람의 유사성으로 설득력 있게 대체하기 위해 디지털 방식으로 조작된 합성 미디어입니다[2].딥페이크는 딥 생성 방법을 통해 얼굴 생김새를 조작하는 것입니다.[3]가짜 콘텐츠를 만드는 행위가 새로운 것은 아니지만 딥페이크는 머신러닝인공지능의 강력한 기술을 활용해 더 쉽게 속일 수 있는 시각 및 음성 콘텐츠를 조작하거나 생성합니다.[4][5]딥 페이크를 만드는 데 사용되는 주요 기계 학습 방법은 딥 러닝을 기반으로 하며 자동 인코더 또는 [4]생성 적대 네트워크(GAN)와 같은 생성 신경망 아키텍처를 훈련하는 것을 포함합니다.[6][7]이미지 포렌식 분야는 조작된 이미지를 감지하는 기술을 개발합니다.[8]

딥페이크는 아동 성학대, 연예인 포르노 비디오, 리벤지 포르노, 가짜 뉴스, 거짓말, 왕따, 금융사기 등에 사용될 가능성이 있어 광범위한 주목을 받고 있습니다.[9][10][11][12]딥페이크를 통한 허위사실 유포와 혐오표현의 확산은 정보에 입각한 의사결정을 통해 국민들이 영향을 미치는 의사결정에 참여하고 집단적 의제를 결정하며 정치적 의지를 표명할 수 있는 능력을 방해함으로써 민주주의 체제의 핵심 기능과 규범을 훼손할 가능성이 있습니다.[13]이를 통해 업계와 정부 모두 사용을 감지하고 제한하는 반응을 이끌어냈습니다.[14][15]

전통적인 엔터테인먼트에서 게임에 이르기까지 딥페이크 기술은 점점 더 설득력을[16] 갖고 대중들이 이용할 수 있도록 발전하여 엔터테인먼트와 미디어 산업의 혼란을 초래하고 있습니다.[17]

역사

사진 조작은 19세기에 개발되었고 곧 영화에 적용되었습니다.기술은 20세기 동안 꾸준히 향상되었고, 디지털 비디오의 등장으로 더욱 빠르게 발전했습니다.

딥페이크 기술은 1990년대부터 학술 기관의 연구자들에 의해 개발되었고, 이후 온라인 커뮤니티의 아마추어들에 의해 개발되었습니다.[18][19]최근에는 산업별로 그 방법이 채택되고 있습니다.[20]

학술연구

딥페이크와 관련된 학문적 연구는 딥페이크를 생성하고 식별하는 기술을 개발하는 [18]컴퓨터 과학의 하위 분야인 컴퓨터 비전 분야와 딥페이크의 사회적, 윤리적, 미적 함의를 연구하는 인문사회과학적 접근으로 나뉩니다.

사회과학과 인문학의 딥페이크 접근법

영화 연구에서 딥 페이크는 "인간의 얼굴이 디지털 시대에 양가감정의 중심 대상으로 부상하고 있다"는 것을 보여줍니다.[21]비디오 아티스트들은 "정규 영화를 새로운 스타 연기자들로 개조하여 영화 역사를 재미있게 다시 쓰기 위해" 딥페이크를 사용했습니다.[22]영화학자 크리스토퍼 홀리데이는 친숙한 영화 장면에서 연기자의 성별과 인종을 바꾸는 것이 성별 분류와 범주를 어떻게 불안정하게 하는지 분석합니다.[22]딥페이크를 "퀴어내는" 아이디어는 영국 예술가 제이크 엘웨스의 지지를 포함하여 [23]딥페이크를 사용하는 미디어 예술 작품에 대한 올리버 M. 깅리치의 토론에서도 논의됩니다. 드래그 퀸의 딥 페이크를 사용하여 의도적으로 성별을 가지고 노는 예술 작품인 Quering the Dataset.딥페이크의 미학적 잠재력도 탐구되기 시작했습니다.연극사학자 존 플레처(John Fletcher)는 딥페이크의 초기 시연이 공연으로 제공된다는 점에 주목하고, 딥페이크가 공연 장르로서 나타내는 "더 문제가 되는 패러다임 변화의 일부"에 대해 논의하면서 연극의 맥락에서 상황을 설정합니다.[24]

철학자들과 미디어 학자들은 특히 음란물과 관련하여 딥페이크의 윤리에 대해 논의해왔습니다.[25]미디어 학자 에밀리 데어 나겔은 조작된 이미지에 대한 사진 연구 연구를 통해 여성들이 이미지 사용에 동의할 수 있는 검증 시스템에 대해 논의합니다.[26]

음란물을 넘어, 철학자들은 딥 페이크를 지식과 사회에 대한 "전대적인 위협"으로 누려왔습니다.[27]딥페이크가 음란물을 넘어 기업, 정치인 등에게 야기하는 "착취, 협박, 개인적 방해"의 위험에 대처하는 방법에 대한 여러 다른 제안들이 있으며,[28] 법률 연구와 언론 연구 모두에서 잠재적인 법적, 규제적 대응에 대한 여러 학문적 논의가 있습니다.[29]심리학과 미디어 연구에서 학자들은 딥 페이크를 사용하는 허위 정보의 영향과 [30][31]딥 페이크의 사회적 영향에 대해 논의합니다.[32]

딥페이크에 대한 대부분의 영어 학술 연구가 허위 정보와 음란물에 대한 서구의 불안에 초점을 맞추고 있는 반면, 디지털 인류학자 가브리엘레 드 세타(Gabrielle de Seta)는 딥페이크에 대한 중국의 반응을 분석했는데, 이는 huanlian이라고 알려져 있으며, 이는 "얼굴을 바꾸는 것"으로 해석됩니다.중국어 용어는 영어 딥페이크의 "가짜"를 포함하지 않으며, 드 세타는 이러한 문화적 맥락이 왜 중국의 대응이 "사기 위험, 이미지 권리, 경제적 이익, 윤리적 불균형"에 대한 실질적인 규제 대응에 더 중점을 두었는지 설명할 수 있다고 주장합니다.[33]

딥페이크에 관한 컴퓨터 과학 연구

초기의 획기적인 프로젝트는 1997년에 출판된 비디오 리라이트 프로그램으로, 다른 오디오 트랙에 포함된 단어를 말하는 사람을 묘사하기 위해 말하는 사람의 기존 비디오 영상을 수정했습니다.[34]이와 같은 얼굴 리애니메이션을 완전히 자동화한 최초의 시스템으로, 영상의 피사체에서 나오는 소리와 피사체의 얼굴 형태를 머신러닝 기법으로 연결했습니다.[34]

현대 학술 프로젝트는 보다 사실적인 영상을 제작하고 기법을 개선하는 데 초점을 맞추고 있습니다.[35][36]2017년 발간된 '오바마 합성' 프로그램은 버락 오바마 전 대통령이 별도의 오디오 트랙에 담긴 단어를 입으로 말하는 모습을 묘사하도록 영상을 수정합니다.[35]이 프로젝트는 오디오에서 입 모양을 합성하는 사실적인 기술을 주요 연구 기여로 열거하고 있습니다.[35]2016년에 공개된 Face2Face 프로그램은 한 사람의 얼굴 영상을 수정하여 다른 사람의 얼굴 표정을 흉내 내는 것을 실시간으로 묘사합니다.[36]이 프로젝트는 깊이를 포착하지 않는 카메라를 사용하여 실시간으로 얼굴 표정을 재연하는 첫 번째 방법을 주요 연구 기여로 나열하여 일반 소비자 카메라를 사용하여 기술을 수행하는 것이 가능합니다.[36]

2018년 8월 미국 버클리 캘리포니아대 연구진은 AI를 활용해 명인의 춤 실력을 느낄 수 있는 가짜 춤 앱을 소개하는 논문을 발표했습니다.[37]이 프로젝트는 딥페이크를 전신에 적용하는 것을 확대하는 것으로, 이전의 작품들은 머리나 얼굴의 일부에 초점을 맞췄습니다.[38]

연구원들은 또한 딥 페이크가 의학적 이미지를 조작하는 것과 같은 다른 영역으로 확대되고 있다는 것을 보여주었습니다.[39]이번 연구에서는 공격자가 환자의 3D CT 촬영에서 자동으로 폐암을 주입하거나 제거하는 방법을 보여주었습니다.결과가 너무 설득력이 있어 방사선사 3명과 최첨단 폐암 검출 인공지능을 속였습니다.이러한 위협을 입증하기 위해 저자들은 화이트햇 침투 테스트에서 병원 공격을 성공적으로 수행했습니다.[40]

2020년 5월에 발표된 딥페이크에 대한 조사는 지난 몇 년 동안 딥페이크의 생성과 감지가 어떻게 발전했는지에 대한 타임라인을 제공합니다.[41]이 조사는 연구원들이 딥페이크 창작의 다음 과제를 해결하는 데 집중해 왔음을 보여줍니다.

  • 일반화.고품질의 딥 페이크는 종종 목표물의 장면을 몇 시간 동안 훈련함으로써 달성됩니다.이 과제는 양질의 이미지를 생성하는 데 필요한 훈련 데이터의 양과 모델을 훈련하는 데 필요한 시간을 최소화하고 (훈련 중에 볼 수 없는) 새로운 아이덴티티에 대해 훈련된 모델을 실행할 수 있도록 하는 것입니다.
  • 짝을 지어 훈련합니다.지도 모델을 교육하면 고품질의 결과를 얻을 수 있지만 데이터 쌍을 구성해야 합니다.이 과정은 모델이 학습하기 위해 입력과 원하는 출력의 예를 찾는 과정입니다.여러 아이덴티티와 얼굴 행동에 대한 교육을 할 때 데이터 페어링은 힘들고 비현실적입니다.일부 솔루션에는 자체 지도 교육(동일한 비디오의 프레임 사용), Cycle-GAN과 같은 페어링되지 않은 네트워크의 사용 또는 네트워크 임베딩의 조작이 포함됩니다.
  • 신원 유출.이것은 운전자(즉, 재연에서 얼굴을 통제하는 배우)의 정체성이 생성된 얼굴에 부분적으로 전달되는 것입니다.제안된 일부 솔루션에는 주의 메커니즘, 퓨샷 학습, 분리, 경계 변환 및 연결 건너뛰기가 포함됩니다.
  • 폐색.손, 머리카락, 안경 또는 기타 물건으로 얼굴 일부를 막으면 인공물이 발생할 수 있습니다.일반적인 폐색은 입과 치아의 안쪽을 숨기는 닫힌 입입니다.일부 솔루션에는 교육 및 인페인팅 중 이미지 세그멘테이션이 포함됩니다.
  • 시간적 일관성.딥 페이크가 포함된 비디오에서는 네트워크에 이전 프레임의 컨텍스트가 없기 때문에 깜박임이나 지터와 같은 아티팩트가 발생할 수 있습니다.일부 연구자들은 이러한 맥락을 제공하거나 현실성을 향상시키기 위해 새로운 시간적 일관성 손실을 사용합니다.기술이 발전함에 따라 간섭이 줄어들고 있습니다.

전반적으로 딥페이크는 미디어와 사회, 미디어 제작, 미디어 재현, 미디어 수용자, 성별, 법과 규제, 정치 등에서 여러 가지 의미를 가질 것으로 예상됩니다.[42]

아마추어 개발

딥 페이크라는 용어는 2017년 말경에 "딥 페이크"라는 이름의 레딧 사용자로부터 유래되었습니다.[43]그와 레딧 커뮤니티 r/deep fake의 다른 사람들은 그들이 만든 딥 페이크를 공유했습니다. 많은 비디오가 유명인들의 얼굴을 포르노 비디오의 여배우들의 몸으로 바꾸는 반면,[43] 포르노가 아닌 컨텐츠는 배우 니콜라스 케이지의 얼굴을 다양한 영화로 바꾸는 비디오를 많이 포함했습니다.[44]

R/SFW deep fake(일에 안전한 딥 페이크의 줄임말)와 같이 포르노를 공유하지 않는 레딧 커뮤니티를 포함한 다른 온라인 커뮤니티는 남아 있습니다. 여기에는 커뮤니티 구성원들이 유명인, 정치인 등을 묘사한 딥 페이크를 비포르노 시나리오로 공유하는 것입니다.[45]다른 온라인 커뮤니티에서는 딥페이크 포르노를 금지하지 않은 플랫폼에서 음란물을 계속 공유하고 있습니다.[46]

상업개발

2018년 1월, 페이크앱(FakeApp)이라는 독점 데스크톱 애플리케이션이 출시되었습니다.[47]이 앱은 사용자들이 서로 얼굴을 바꿔가며 동영상을 쉽게 만들고 공유할 수 있게 해줍니다.[48]2019년 현재 페이크앱은 Faceswap, 명령줄 기반 DeepFaceLab과 같은 오픈 소스 대안 및 DeepfakesWeb.com 과 같은 웹 기반 앱으로 대체되었습니다.

대기업들은 딥페이크를 사용하기 시작했습니다.[20]기업 교육 비디오는 딥페이크 아바타와 그 음성을 사용하여 만들 수 있습니다. 예를 들어, 아바타와 함께 딥페이크 기술을 사용하여 개인화된 비디오를 만드는 Synthesia가 있습니다.[52]거대 모바일 앱 회사인 모모는 사용자들이 한 장의 사진으로 텔레비전과 영화 클립에 그들의 얼굴을 겹칠 수 있는 Zao 애플리케이션을 만들었습니다.[20]2019년 현재 일본의 인공지능 회사인 데이터그리드는 처음부터 사람을 만들 수 있는 전신 딥페이크를 만들었습니다.[53]그들은 이것들을 패션과 의류에 사용하려고 합니다.

2020년 현재 오디오 딥페이크, 5초 청취 후 딥페이크 탐지 및 사람 목소리 복제가 가능한 AI 소프트웨어도 존재합니다.[54][55][56][57][58][59]모바일 딥페이크 앱인 임프레션스는 2020년 3월 출시되었습니다.그것은 핸드폰에서 연예인 딥페이크 비디오를 만드는 첫 번째 앱이었습니다.[60][61]

부활.

딥페이크 기술은 다른 사람들의 메시지와 행동을 조작하는 데 사용될 수 있을 뿐만 아니라, 사망한 사람들을 되살리는 데에도 사용될 수 있습니다.2020년 10월 29일, 킴 카다시안은 그녀의 아버지 로버트 카다시안의 영상을 올렸는데, 영상 속 로버트 카다시안의 얼굴은 딥페이크 기술로 만들어졌습니다.[62]이 홀로그램은 Kaleida 회사에 의해 만들어졌으며, 그들은 홀로그램 제작에 성능, 움직임 추적, SFX, VFX 및 DeepFake 기술을 결합하여 사용합니다.[63]

2020년 파크랜드 총기난사 사건의 피해자 호아킨 올리버가 딥페이크 기술로 부활했습니다.Oliver의 부모님은 그들의 조직 Norporary Change the Ref를 대표하여 McCan Health와 함께 총기 안전 투표 캠페인을 옹호하는 이 딥 페이크 비디오를 제작했습니다.[64]이 진한 가짜 메시지에는 호아킨이 시청자들에게 투표를 독려하는 모습이 담겨 있습니다.

2022년, 엘비스 프레슬리는 딥페이크 기술을 사용하여 America's Got Talent 17에서 부활했습니다.[65]

1980년에 살해된 비틀즈멤버인 존 레논과 같이 살해된 대중문화 및 역사적 인물들에 대한 깊은 가짜 부활이 있었습니다.[66]

기술

딥페이크는 오토인코더라고 불리는 신경망의 한 종류에 의존합니다.[7][67]이것들은 이미지를 더 낮은 차원의 잠재 공간으로 줄이는 인코더와 잠재 표현으로부터 이미지를 재구성하는 디코더로 구성됩니다.[68]딥페이크는 사람을 잠재 공간으로 인코딩하는 범용 인코더를 사용하여 이 아키텍처를 활용합니다.[69]잠재적 표현은 그들의 얼굴 특징과 신체 자세에 대한 주요 특징을 포함합니다.그런 다음 대상에 대해 특별히 훈련된 모델로 디코딩할 수 있습니다.[7]이는 대상의 세부 정보가 잠재 공간에 표현된 원본 비디오의 기본 얼굴 및 신체 특징에 중첩된다는 것을 의미합니다.[7]

이 아키텍처의 인기 있는 업그레이드는 생성 적대적 네트워크를 디코더에 연결합니다.[69]GAN은 적대적 관계에서 생성기, 이 경우 디코더 및 판별기를 훈련시킵니다.[69]생성기는 소스 재료의 잠재적 표현으로부터 새로운 이미지를 생성하는 반면, 판별기는 이미지가 생성되었는지 여부를 확인합니다.[69]이로 인해 생성기가 현실을 매우 잘 모방하는 이미지를 생성하게 되며 모든 결함이 판별기에 의해 포착됩니다.[70]두 알고리즘 모두 제로섬 게임에서 지속적으로 향상됩니다.[69]이로 인해 딥페이크는 지속적으로 진화하기 때문에 전투에 어려움을 겪으며, 결함이 확인되면 언제든지 수정할 수 있습니다.[70]

적용들

협박

딥 페이크는 피해자에게 거짓으로 유죄를 선고하는 협박 자료를 생성하는 데 사용될 수 있습니다.미국 의회 조사국의 보고서는 딥 페이크가 스파이영향력을 행사하기 위해 선출직 공무원이나 기밀 정보에 접근할 수 있는 사람들을 협박하는데 사용될 수 있다고 경고했습니다.[71]

또는 가짜는 진짜 자료와 확실하게 구별할 수 없기 때문에, 실제 공갈 피해자들은 이제 진짜 유물이 가짜라고 주장할 수 있고, 그럴듯한 부인 가능성을 갖게 됩니다.그 효과는 기존의 공갈 자료에 대한 신뢰성을 상실하는 것인데, 이는 공갈범에 대한 충성심을 지우고 공갈범의 통제력을 무너뜨리는 것입니다.이 현상은 "블랙메일 인플레이션"이라고 할 수 있는데, 이는 실제 공갈을 "평가절하"하여 가치를 떨어뜨리기 때문입니다.[72]소규모 소프트웨어 프로그램으로 상용 GPU 하드웨어를 활용하여 수많은 피험자를 대상으로 이 협박 콘텐츠를 대량으로 생성할 수 있으며, 이를 통해 무한하고 확장성이 높은 가짜 협박 콘텐츠의 공급을 촉진할 수 있습니다.[73]

포르노그래피

2017년 딥페이크 포르노는 인터넷, 특히 레딧에서 두드러지게 나타났습니다.[74]2019년 현재, 인터넷상의 많은 딥페이크들은 여성 연예인들의 유사성이 동의 없이 사용되는 음란물을 특징으로 합니다.[75]네덜란드의 사이버 보안 스타트업 딥트레이스가 2019년 10월에 발표한 보고서에 따르면 온라인 상의 모든 딥페이크의 96%가 포르노라고 합니다.[76]2018년 기준으로 데이지 리들리 딥페이크가 처음으로 관심을 끌었습니다.[74][77][78][79]2019년 10월 현재 인터넷상의 딥페이크 소재는 대부분 영국과 미국의 여배우들이었습니다.[75]하지만, 피실험자의 약 4분의 1이 한국인이고, 대부분은 K-pop 스타들입니다.[75][80]

2019년 6월, 여성의 이미지에서 옷을 제거하기 위해 신경망, 특히 생성 적대적 네트워크를 사용하는 다운로드 가능한 윈도우리눅스 애플리케이션 DeepNude가 출시되었습니다.그 앱에는 유료 버전과 무급 버전이 있는데, 유료 버전은 50달러입니다.[81][82]6월 27일, 창작자들은 애플리케이션을 삭제하고 소비자들에게 환불을 해주었습니다.[83]

정치

딥 페이크는 유명한 정치인들을 비디오에서 잘못 표현하기 위해 사용되었습니다.

  • 2018년 4월, 조던 필([84]Jordan Peelle)은 버즈피드(Buzzfeed)와 협력하여 필(Peel)의 목소리로 버락 오바마(Barack Obama)의 딥페이크를 만들었습니다. 딥페이크에 대한 인식을 높이기 위한 공익광고 역할을 했습니다.
  • 2018년에는 별도의 영상에서 마우리시오 마크리 아르헨티나 대통령의 얼굴이 아돌프 히틀러의 얼굴로, 앙겔라 메르켈 총리의 얼굴이 도널드 트럼프의 얼굴로 대체됐습니다.[85][86]
  • 2019년 1월 폭스 계열사KCPQ는 백악관 집무실 연설에서 트럼프의 외모와 피부색을 조롱하는 내용의 가짜 방송을 내보냈습니다.동영상에 대한 책임이 있는 직원은 이후 해고되었습니다.[87]
  • 2019년 6월, 미국 하원 정보위원회는 선거를 흔들기 위해 딥페이크를 악의적으로 사용할 가능성에 대한 청문회를 열었습니다.[88]
  • 2020년 4월, 벨기에 멸종 반란 지부는 페이스북에 소피 윌메스 벨기에 총리의 가짜 딥 비디오를 게시했습니다.[89]이 비디오는 삼림 벌채코로나19 사이의 가능한 연관성을 홍보했습니다.24시간 만에 10만 건이 넘는 조회수를 기록했고 많은 댓글을 받았습니다.동영상이 등장한 페이스북 페이지에는 딥페이크 동영상이 진품이라고 해석하는 이용자들이 많았습니다.[90]
  • 2020년 미국 대선 기간 동안바이든이 인터뷰 도중 잠이 들고 길을 잃고 연설을 잘못 하는 등 인지력 저하를 주장하는 많은 가짜들이 그의 쇠퇴에 대한 소문을 부추겼습니다.[91][92]
  • 2020년 델리 국회의원 선거 캠페인 동안 델리 인도인민당은 비슷한 기술을 사용하여 지도자 마노즈 티와리하리아나 유권자들을 겨냥하여 하리아니로 번역한 영어 캠페인 광고 버전을 배포했습니다.배우에 의해 보이스오버가 제공되었고, 티와리 연설 동영상을 사용하여 훈련된 AI가 새로운 보이스오버에 영상을 립싱크하는 데 사용되었습니다.한 당직자는 딥페이크 기술을 "긍정적으로" 사용했다고 설명했는데, 이것은 그들이 "후보자가 유권자의 언어를 사용하지 않더라도 대상 청중에게 설득력 있게 접근할 수 있도록" 했습니다.[93]
  • 2020년 브루노 사르토리는 자이르 보우소나루도널드 트럼프와 같은 정치인들을 패러디한 딥페이크를 제작했습니다.[94]
  • 2021년 4월, 많은 유럽 국가의 정치인들이 러시아 국가를 위해 일했다는 비판자들에 의해 고발된 장난꾸러기 보반과 렉서스에 의해 접근되었습니다.이들은 러시아 야당 정치인이자 러시아 야당 지도자 알렉세이 나발니의 선거운동 참모인 레오니드 볼코프를 사칭한 것으로 전해졌습니다.[95][96][97][98]하지만, 이 두 사람은 더 버지에 그들은 딥 페이크를 사용하지 않았고, 단지 닮은 것을 사용했을 뿐이라고 말했습니다.[99]
  • 2023년 5월, 카말라 해리스 부통령이 오늘, 내일, 어제에 대해 말을 흐리고 말도 안 되는 소리를 하는 딥페이크 영상이 소셜미디어에서 입소문이 났습니다.[100][101]
  • 2023년 6월, 미국에서 론 드산티스의 대선 캠페인은 도널드 트럼프를 잘못 표현하기 위해 가짜를 사용했습니다.[102]

워페어

2023년 6월 5일, 알려지지 않은 소식통이 여러 라디오와 텔레비전 방송국에서 블라디미르 푸틴의 가짜를 보도했습니다.이 동영상에서 푸틴은 러시아 침공을 선언하고 군대의 총동원을 촉구하는 연설을 하는 것으로 보입니다.[103]

예체능

2018년 3월 다학제 예술가 Joseph Ayerle는 U'emozione per semre 2.0 비디오 아트워크를 출판했습니다.이탈리아 게임).이 예술가는 딥페이크 기술과 함께 1978년부터 2018년까지 시간 여행을 하며 80년대 영화배우 Ornella Muti의 합성 버전인 AI 여배우를 만들었습니다.매사추세츠 공과대학교는 이 작품을 "집단적 지혜"라는 연구에서 언급했습니다.[104]작가는 오르넬라 무티의 시간 여행을 통해 세대의 성찰을 탐구하는 동시에 예술계에서 도발의 역할에 대한 질문을 탐구했습니다.[105]기술적인 실현을 위해 Ayerle는 사진 모델 Kendall Jener의 장면을 사용했습니다.이 프로그램은 제너의 얼굴을 인공지능으로 계산한 오르넬라 무티의 얼굴로 대체했습니다.그 결과 이 AI 여배우는 이탈리아 여배우 오르넬라 무티의 얼굴과 켄달 제너의 몸을 갖게 됐습니다.

딥페이크는 풍자나 연예인이나 정치인을 패러디하는 데 널리 사용되어 왔습니다.트레이 파커와 맷 스톤이 만든 2020년 웹 시리즈 Sassy Justice는 현재의 사건을 풍자하고 딥페이크 기술에 대한 인식을 높이기 위해 딥페이크 공인을 사용하는 것을 비중 있게 다루고 있습니다.[106]

연기

딥페이크가 미래 영화를 위한 디지털 배우를 만드는 데 사용될 것이라는 추측이 있었습니다.디지털로 구성된/변경된 인간은 이미 이전에 영화에서 사용된 적이 있으며, 딥 페이크는 가까운 미래에 새로운 발전에 기여할 수 있습니다.[107]딥페이크 기술은 솔로: 스타워즈 스토리에서 해리슨 포드어린 얼굴을 한 솔로의 얼굴에 삽입하는 것과 같이 이미 팬들에 의해 기존 영화에 얼굴을 삽입하는데 사용되었으며,[108] 로그 원에서 레이아 공주와 그랜드 모프 타킨의 연기에는 딥페이크가 사용한 것과 유사한 기술이 사용되었습니다.[109][110]

딥페이크 기술이 점점 발전함에 따라 디즈니는 고해상도 딥페이크 페이스 스와핑 기술을 사용하여 시각적 효과를 향상시켰습니다.[111]디즈니는 출력을 안정화하고 정교화하기 위해 얼굴 표정을 식별하고, 얼굴 교환 기능을 구현하고, 반복적으로 프로그램된 점진적인 훈련을 통해 기술을 향상시켰습니다.[111]이 고해상도 딥페이크 기술은 운영 및 생산 비용을 크게 절감합니다.[112]256 x 256 해상도로 미디어를 생성하는 일반적인 모델과 달리 디즈니의 딥페이크 생성 모델은 1024 x 1024 해상도로 AI가 생성한 미디어를 생성할 수 있습니다.[112]이 기술은 디즈니가 캐릭터들의 나이를 없애거나 죽은 배우들을 되살릴 수 있게 해줍니다.[113]

2020년 다큐멘터리 웰컴 투 체첸(Welcome to Chechnya)은 딥페이크 기술을 이용해 인터뷰에 응한 사람들의 정체를 은폐해 보복으로부터 그들을 보호했습니다.[114]

오락.

2022년 6월 8일,[115] 전직 AGT 참가자인 다니엘 에밋은 AI 스타트업[116][117] 메타포피직 AI와 협력하여 사이먼 코웰(Simon Cowell)처럼 보이게 하기 위해 초현실적인 딥페이크(deep fake)를 만들었습니다.참가자들을 혹독하게 비판하는 것으로 유명한 코웰은 시카고의 "You're The Inspiration"을 통역하는 무대에 섰습니다.[118]에밋은 무대에서 사이먼 코웰의 모습이 완벽한 싱크로율로 그의 뒤에 있는 스크린에 나타나자 노래를 불렀습니다.[119]

2022년 8월 30일, 형이상학 AI는 '딥페이크' 사이먼 코웰, 하위 맨델, 테리 크루스가 무대에서 오페라를 노래하게 했습니다.[120]

2022년 9월 13일 America's Got Talent 결승전에서 메타포딕 AI가 엘비스 프레슬리합성 버전과 함께 공연했습니다.[121]

MIT 인공지능 프로젝트 15.ai 은 여러 인터넷 팬덤, 특히 소셜 미디어의 콘텐츠 제작에 사용되어 왔습니다.

인터넷 밈

2020년에는 딥페이크를 이용하여 비디오 게임 시리즈 야쿠자 0의 노래인 "바카 미타이"(ばかみたい)의 후렴구를 부르는 영상을 생성하는 인터넷 밈이 등장했습니다.이 시리즈에서 우울한 노래는 노래방 미니게임에서 연주자가 부릅니다.이 밈의 대부분의 반복은 노래를 립싱크하는 사용자 돕시룰즈에 의해 업로드된 2017년 비디오를 템플릿으로 사용합니다.[125][126]

소셜 미디어

딥페이크는 인기 있는 소셜 미디어 플랫폼에서 사용되기 시작했는데, 특히 사용자들이 로미오와 줄리엣, 왕좌게임과 같은 영화와 텔레비전 쇼의 장면에 등장하는 인물들의 얼굴에 자신의 얼굴을 대체할 수 있게 해주는 중국의 딥페이크 앱인 Zao를 통해서입니다.[127]그 앱은 원래 그것의 침습적인 사용자 데이터와 개인 정보 보호 정책에 대한 정밀 조사에 직면했고, 그 후 그 회사는 그 정책을 수정할 것이라고 주장하는 성명서를 발표했습니다.[20]2020년 1월, 페이스북은 이에 대응하기 위한 새로운 조치를 자사 플랫폼에 도입한다고 발표했습니다.[128]

의회 조사국은 외국 정보 요원들기밀 정보에 접근할 수 있는 개인을 모집할 목적으로 소셜 미디어 계정을 만들기 위해 딥 페이크를 사용했다는 것을 보여주는 불특정 증거를 인용했습니다.[71]

2021년 배우 톰 크루즈의 실감나는 딥페이크 영상이 틱톡을 통해 공개돼 화제가 되며 수천만 뷰 이상의 조회수를 기록했습니다.딥페이크 영상에는 크루즈가 골프장에서 티셔츠를 입고, 코인트릭을 자랑하고, 막대사탕을 물어뜯는 등 다양한 활동을 하는 '인공지능이 만든 도플갱어'가 등장했습니다.이 동영상의 제작자벨기에 VFX 아티스트 크리스 우메(Chris Umé)는 2018년 처음으로 딥페이크에 관심을 갖게 되었고 그것들의 "창의적인 잠재력"을 보았다고 말했습니다.[129][130][131]

양말꼭두각시

딥 페이크 사진은 온라인과 전통적인 미디어에서 활동하는 존재하지 않는 사람들인 양말 인형을 만드는 데 사용될 수 있습니다.딥 페이크 사진은 영국에서 대학생으로 묘사된 올리버 테일러라는 이름의 분명히 존재하지 않는 사람에 대한 전설과 함께 생성된 것으로 보입니다.올리버 테일러 페르소나는 여러 신문에 의견서를 제출했고, 온라인 매체에서 영국의 법학자와 그의 아내를 "테러 동조자"라고 공격했습니다.이 학자는 2018년 이스라엘에서 NSO의 전화 해킹 기술의 피해자라고 주장하는 멕시코 사람들을 대신하여 감시 회사인 NSO를 상대로 소송을 시작하면서 국제적인 관심을 끌었습니다.로이터 통신은 올리버 테일러에 대한 기록이 부족하고, "그의" 대학은 그에 대한 기록이 없다는 것을 발견할 수 있었습니다.많은 전문가들은 프로필 사진이 진짜 가짜라는 데 동의했습니다.몇몇 신문사들은 그에게 귀속된 기사들을 철회하거나 웹사이트에서 삭제하지 않았습니다.이런 기술은 허위 정보의 새로운 격전지가 될 것으로 우려됩니다.[132]

이스라엘의 당파적 선전의 일환으로 소셜 네트워크에 존재하지 않는 사람들의 심층 가짜 사진 모음도 배치되었습니다.페이스북 페이지 '자이언스트 스프링'에는 존재하지 않는 사람들의 사진과 함께 좌파 정치를 버리고 우익을 포용한 이유를 설명하는 '증언'이 등장했습니다.그리고 이 페이지에는 베냐민 네타냐후 이스라엘 총리와 그의 아들, 그리고 다른 이스라엘 우파 소식통들의 많은 게시물들도 포함되어 있습니다.이 사진들은 실제 사람들의 사진에서 데이터를 가져와 존재하지 않는 사람의 사실적인 합성 이미지를 만들어내는 컴퓨터 소프트웨어인 "인간 이미지 합성" 기술에 의해 만들어진 것으로 보입니다.많은 '증언'에서 정치적 권리를 받아들인 이유는 총리에 대한 폭력 선동 의혹을 알게 된 충격 때문이었습니다.그리고 나서 이스라엘의 우익 텔레비전 방송사들은 그들이 온라인에서 "공유"되고 있다는 사실에 근거하여 이 존재하지 않는 사람들의 "증언"을 방송했습니다.방송사들은 방송사들이 그런 사람들을 찾지 못했음에도 불구하고 "출처가 왜 중요하냐"고 설명하며 이 이야기를 내보냈습니다.다른 페이스북 가짜 프로필들, 즉 가공의 개인들의 프로필들은 우파 총리에 대한 그러한 선동을 포함한 것으로 알려진 자료들을 포함하고 있었고, 총리는 그를 살해하려는 음모가 있었다고 불평했습니다.[133][134]

걱정

사기

오디오페이크는 사람들이 신뢰할 수 있는 사람으로부터 지시를 받고 있다고 생각하도록 속이는 사회공학 사기의 일부로 사용되어 왔습니다.[135]2019년, 영국에 본사를 둔 에너지 회사의 CEO가 회사의 모회사 최고 경영자의 목소리를 가장하기 위해 오디오 딥페이크 기술을 사용한 개인으로부터 헝가리 은행 계좌로 220,000 유로를 송금하라는 명령을 받았을 때 전화 사기를 당했습니다.[136]

신뢰성 및 진정성

오랫동안 가짜 사진이 많았지만, 영화를 위조하는 것은 더 어려웠고, 딥 페이크가 존재하면 비디오를 진품으로 분류하는 것이 어려워집니다.[85]인공지능 연구원 알렉스 챔팬다드는 딥페이크 기술로 얼마나 빨리 사물이 부패할 수 있는지 알아야 한다며, 이 문제는 기술적인 문제가 아니라 정보와 저널리즘에 대한 신뢰로 해결해야 할 문제라고 말했습니다.[85]딥페이크는 명예를 훼손하고, 사칭하며, 허위 정보를 유포하는 데 활용될 수 있습니다.[137]

가장 큰 함정은 인류가 더 이상 매체의 내용이 진실에 부합하는지 판단할 수 없는 시대에 빠질 수 있다는 것입니다.[85][138]딥페이크는 허위 정보 공격, 의심 생성, 신뢰 훼손을 위한 여러 가지 도구 중 하나입니다.그들은 집단적 의제를 확인하고, 문제를 토론하고, 결정을 알리고, 정치적 의지의 행사를 통해 문제를 해결하는 등 사회의 민주적 기능을 방해할 가능성이 있습니다.[13]

마찬가지로, 서던 캘리포니아 대학의 컴퓨터 과학 부교수 Hao Li는 가짜 뉴스와 같은 악의적인 사용을 위해 만들어진 가짜는 딥 페이크 기술에 대한 인식을 확산시키기 위해 아무 것도 하지 않는다면 훨씬 더 해로울 것이라고 말합니다.[139]Li는 인공지능과 컴퓨터 그래픽의 급속한 발전으로 인해 이르면 2019년 10월부터 반년 안에 진짜 비디오와 딥페이크를 구별할 수 없을 것이라고 예측했습니다.[139]

구글 사기 책임자인 Shuman Gosemajumder는 딥페이크를 "사회적 관심사"라고 부르며, 그것들이 자동으로 생성될 수 있는 지점으로 필연적으로 진화할 것이고, 개인은 수백만 개의 딥페이크 비디오를 생산하기 위해 그 기술을 사용할 수 있다고 말했습니다.[140]

딥 페이크는 개별 개체에 엄청난 피해를 입히는 능력을 가지고 있습니다.[141]이것은 딥 페이크가 종종 여론이나 믿음에 영향을 미칠 수 있을 만큼 강력한 이야기를 만들기 위해 한 개인, 그리고/또는 다른 사람들과의 관계를 대상으로 하기 때문입니다.이것은 음성을 조작하여 가짜 전화나 대화를 만드는 딥 페이크 보이스피싱을 통해 이루어질 수 있습니다.[141]딥페이크 사용의 또 다른 방법은 조작된 사적인 발언입니다. 이는 언론을 조작하여 개인에게 해로운 발언을 전달하는 것입니다.[141]

2020년 9월 마이크로소프트는 딥페이크 탐지 소프트웨어 도구를 개발 중이라고 발표했습니다.[142]

이벤트 예시

버락 오바마

2018년 4월 17일, 미국 배우 조던 필(Jordan Peelle), 버즈피드(BuzzFeed), 몽키포 프로덕션(Monkeypaw Productions)[143]은 버락 오바마(Barack Obama)가 도널드 트럼프(Donald Trump)의 이름을 욕하고 부르는 것을 묘사한 버락 오바마의 가짜를 유튜브에 게시했습니다.이 짙은 가짜 속에서 필의 목소리와 얼굴은 오바마의 목소리로 변형되고 조작되었습니다.이 비디오의 의도는 딥 페이크의 위험한 결과와 힘, 그리고 딥 페이크가 누구나 어떤 말을 하게 만들 수 있는지를 묘사하는 것이었습니다.

도널드 트럼프

2019년 5월 5일, 더파크스는 NBC의 투나잇 쇼에서 지미 팰런이 공연한 촌극을 바탕으로 도널드 트럼프의 가짜를 유튜브에 올렸습니다.[144]오리지널 콩트(2016년 5월 4일 방영)에서 지미 팰런은 도널드 트럼프로 분장하고 버락 오바마와 전화 통화에 참여하는 척하며 인디애나주에서의 자신의 1차 승리를 자랑하는 방식으로 대화했습니다.[144]딥페이크에서는 지미 팰런의 얼굴이 도널드 트럼프의 얼굴로 바뀌었고, 오디오는 그대로였습니다.이 딥페이크 비디오는 더파케스가 희극적인 의도로 제작한 것입니다.

도널드 트럼프 체포되는[145] 가짜 미드저니 이미지

2023년 3월, 뉴욕 경찰관들이 트럼프를 체포하는 장면을 담은 영상이 잇따라 등장했습니다.[146]Midjourney를 사용하여 만들어진 이 이미지들은 처음에 Eliot Higgins에 의해 트위터에 게시되었지만 나중에 맥락 없이 다시 공유되었고, 일부 시청자들이 그것들이 진짜 사진이라고 믿게 만들었습니다.[145]

낸시 펠로시

2019년 낸시 펠로시가 미국진보센터에서 한 연설(2019년 5월 22일 제공)에서 자신이 술에 취한 것처럼 보이게 오디오 음정을 바꾸는 것 외에도 영상이 느려진 동영상이 소셜미디어에 널리 퍼졌습니다.비평가들은 이것이 깊이 있는 가짜가 아니라 얕은 가짜라고 주장합니다; 덜 복잡한 형태의 비디오 조작입니다.[147][148]

김정은과 블라디미르 푸틴

김정은

2020년 9월 29일, 북한 김정은 위원장과 러시아 대통령 블라디미르 푸틴의 가짜 사진이 초당적 지지 단체인 '대표어스'가 만든 유튜브에 올라왔습니다.[149]

딥페이크 비디오:블라디미르 푸틴 미국인들에게 선거 개입과 정치적 분열 증가에 대해 경고

이들 지도자들의 미국 선거 개입이 미국 민주주의에 해로울 것이라는 생각을 전달하기 위해 김과 푸틴의 가짜를 공개적으로 광고로 내보내기로 한 것입니다.이 광고는 또한 민주주의가 얼마나 취약한지, 그리고 미디어와 뉴스가 신뢰도에 관계없이 미국의 진로에 얼마나 큰 영향을 미칠 수 있는지를 깨닫게 하기 위해 미국인들에게 충격을 주는 것을 목표로 했습니다.[149]하지만, 광고에는 이 장면이 실제가 아니라는 엔딩 멘트가 포함되어 있지만, 결국 미국인들이 어떻게 반응할지에 대한 두려움과 민감성 때문에 방송되지 않았습니다.[149]

볼로디미르 젤렌스키

2022년 3월 16일, 볼로디미르 젤렌스키 우크라이나 대통령이 2022년 러시아의 우크라이나 침공 당시 군인들에게 무기를 내려놓고 항복하라고 말하는 듯한 1분 길이의 딥페이크 영상이 소셜미디어에 유포되었습니다.[13]러시아 소셜미디어는 이를 부추겼지만, 폭로된 후 페이스북과 유튜브는 이를 삭제했습니다.트위터는 이 동영상이 가짜로 노출된 트윗에서 허용했지만, 사람들을 속이기 위해 게시되면 삭제될 것이라고 말했습니다.해커들은 TV 방송국 우크라이나 24의 실시간 스크롤 텍스트 뉴스에 이 잘못된 정보를 삽입했으며, 젤렌스키가 그의 나라의 수도 키이우를 도망쳤다는 거짓 주장과 더불어 이 비디오는 방송국 웹사이트에 잠깐 등장했습니다.누가 딥 페이크를 만들었는지는 즉각 밝혀지지 않았고, 젤렌스키는 그의 비디오로 "우리는 어떤 무기도 내려놓지 않을 계획입니다.승리할 때까지."[150]

울프 뉴스

2022년 말, 친중 선전가들은 합성 배우를 사용한 "늑대 뉴스"의 것이라고 주장하는 딥 페이크 비디오를 퍼뜨리기 시작했습니다.이 기술은 런던의 Synthesia라는 회사에 의해 개발되었는데, 이 회사는 훈련과 HR 비디오를 위한 라이브 배우들의 저렴한 대안으로 판매하고 있습니다.[151]

프란치스코 교황

교황 프란치스코가 복퍼 재킷을 입고 제작한 가짜 미드저니 이미지

2023년 3월, 시카고에서 온 익명의 건설 노동자가 미드저니를 이용해 흰색 발렌시아가 퍼퍼 재킷을 입은 프란치스코 교황의 가짜 이미지를 만들었습니다.이 이미지는 2천만 건 이상의 조회수를 기록하며 입소문을 탔습니다.[152]작가 라이언 브로더릭은 이를 "최초의 실제 질량 수준의 AI 오보 사례"라고 칭했습니다.[153]슬레이트가 자문한 전문가들은 이 이미지를 "5년 전에 포토샵으로 만들 수 있었을 것"이라고 표현했습니다.[154]

응답

소셜 미디어 플랫폼

트위터

Twitter는 플랫폼에서 합성 및 조작된 미디어를 처리하기 위해 적극적인 조치를 취하고 있습니다.잘못된 정보가 퍼지는 것을 막기 위해, 트위터는 조작된 미디어 및/또는 시청자들에게 미디어가 조작되었음을 알리는 딥 페이크가 포함된 트윗에 공지를 하고 있습니다.[155]트윗을 리트윗하거나 좋아요 또는 참여할 계획인 사용자에게 나타나는 경고도 표시됩니다.[155]Twitter는 또한 디벙킹 조치로서 Twitter Moment 또는 관련 주제에 대한 신뢰할 수 있는 뉴스 기사로 연결되는 조작되거나 합성된 매체가 포함된 트윗 옆의 링크를 사용자에게 제공하기 위해 노력할 것입니다.[155]트위터는 또한 사용자의 안전에 해를 끼칠 수 있는 딥 페이크나 조작된 미디어가 포함된 트윗을 삭제할 수 있습니다.[155]트위터는 딥페이크 및 조작된 미디어에 대한 트위터 탐지 기능을 개선하기 위해 파트너 관계에 관심이 있는 사용자에게 양식을 작성하기 위한 딥페이크 탐지 솔루션 작업을 요청했습니다(2020년 11월 27일 예정).[156]

페이스북

페이스북은 최첨단 딥페이크 탐지 소프트웨어를 개발하기 위해 딥페이크 제작을 장려하는 노력을 기울였습니다.Facebook은 2019년 12월에 개최된 DFDC(Deepfake Detection Challenge)에서 35,000개 이상의 모델을 생성한 2114명의 참가자에게 중요한 파트너였습니다.[157]검출 정확도가 가장 높은 상위 성능 모델에 대해 유사성과 차이점을 분석했습니다. 이러한 결과는 딥페이크 검출 모델을 개선하고 정교화하기 위한 추가 연구에 관심이 있는 분야입니다.[157]페이스북은 또한 플랫폼이 개인의 말을 바꾸는 데 사용되는 인공지능으로 생성된 미디어를 제거할 것이라고 상세하게 설명했습니다.[158]그러나 메시지의 순서나 문맥을 바꾸기 위해 편집된 미디어는 인공지능에 의해 생성된 것이 아니기 때문에 사이트에 남아 있지만 거짓으로 표시됩니다.[158]

탐지

오디오

가짜 오디오 탐지는 매우 복잡한 작업으로, 좋은 성능을 얻기 위해서는 오디오 신호에 주의를 기울여야 합니다.딥 러닝을 사용하여 특징 설계 및 마스킹 확대의 사전 처리가 성능 향상에 효과적인 것으로 입증되었습니다.[159]

비디오

딥페이크를 둘러싼 학술 연구의 대부분은 딥페이크 동영상 탐지에 초점을 맞추고 있습니다.[160]딥페이크 탐지에 대한 한 가지 접근법은 알고리즘을 사용하여 패턴을 인식하고 딥페이크 비디오에서 발생하는 미묘한 불일치를 포착하는 것입니다.[160]예를 들어, 연구원들은 조명의 불규칙한 깜빡임 패턴과 같은 오류가 있는지 비디오를 검사하는 자동 시스템을 개발했습니다.[161][18]딥페이크 탐지는 딥페이크를 탐지하는 알고리즘이 개선됨에 따라 딥페이크의 생산이 계속 변화하고 개선되는 '움직이는 목표 포스트'라는 특징이 있기 때문에 이러한 접근 방식은 비판을 받아 왔습니다.[160]딥페이크 탐지를 위한 가장 효과적인 알고리즘을 평가하기 위해, 주요 기술 회사 연합은 조작된 콘텐츠를 식별하는 기술을 가속화하기 위해 딥페이크 탐지 챌린지를 개최했습니다.[162]Deepfake Detection Challenge의 우승 모델은 4,000개의 비디오 홀드아웃 세트에서 65%의 정확도를 보였습니다.[163]매사추세츠 공과대학교의 한 팀은 2021년 12월에 논문을 발표했는데, 일반인들이 이 비디오들 중 50개의 무작위 샘플을 식별하는 데 69-72%의 정확성을 가지고 있다는 것을 보여주었습니다.[164]

버팔로 대학의 한 팀은 2020년 10월에 적어도 당분간은 인공지능 감지 도구를 사용하지 않더라도 성공률이 높은 딥 페이크를 발견하기 위해 묘사된 사람들의 눈에 빛의 반사를 사용하는 기술을 요약한 논문을 발표했습니다.[165]

정치 지도자와 같이 문서화가 잘 된 개인의 경우, 얼굴, 제스처, 목소리 매너리즘의 패턴과 같은 정체성 기반 특징을 구별하고 딥 페이크 모창자를 탐지하는 알고리즘이 개발되었습니다.[166]

서던 캘리포니아 대학교 정보 과학 연구소의 시각 지능 및 멀티미디어 분석 연구소(VIMAL)의 Wael Abd Almageed가 이끄는 또 다른 팀은 컨볼루션 신경망을 기반으로 한 두 세대의 딥페이크 탐지기를 개발했습니다.1세대는 반복 신경망을 사용하여 시공간적 불일치를 발견하여 딥페이크 생성 프로세스에 의해 남겨진 시각적 인공물을 식별했습니다.이 알고리즘은 FaceForensics++에서 96%의 정확도를 보관했는데, 이는 당시 사용 가능한 유일한 대규모 딥페이크 벤치마크입니다.2세대는 엔드 투 엔드 딥 네트워크를 사용하여 두 갈래 네트워크를 사용하여 아티팩트와 높은 수준의 시맨틱 얼굴 정보를 구별했습니다.첫 번째 분기는 색상 정보를 전파하고, 다른 분기는 얼굴 내용을 억제하고 LoG(Laplacian of Gaussian)를 사용하여 낮은 레벨의 주파수를 증폭합니다.또한, 그것들은 딥 페이크의 표현(즉, 특징)을 분산시키면서 선의의 얼굴의 콤팩트한 표현을 학습하는 새로운 손실 함수를 포함했습니다.VIMAL의 접근 방식은 FaceForensics++ 및 Celebr-DF 벤치마크에서 최첨단 성능을 보여주었고, 2022년 3월 16일(출시 당일)에는 딥 페이크가 생성된 알고리듬에 대한 재교육이나 지식 없이 즉시 볼로디미르 젤렌스키의 딥 페이크를 식별하는 데 사용되었습니다.[citation needed]

다른 기술들은 미디어의 출처를 확인하기 위해 블록체인이 사용될 수 있음을 시사합니다.[169]예를 들어, 동영상이 소셜 미디어 플랫폼에 표시되기 전에 원장을 통해 확인해야 할 수도 있습니다.[169]이 기술을 사용하면 신뢰할 수 있는 출처의 비디오만 승인되어 유해한 딥 페이크 미디어의 확산을 줄일 수 있습니다.[169]

스마트폰 카메라를 포함한 카메라와 비디오 카메라에 의한 모든 비디오와 이미지의 디지털 서명은 딥 페이크와 싸우기 위해 제안되었습니다.[170]이를 통해 모든 사진이나 비디오를 원래 소유주까지 추적하여 반체제 인사를 추적할 수 있습니다.[170]

딥 페이크 비디오 통화를 알아내는 한 가지 쉬운 방법은 발신자에게 옆으로 돌아서라고 요청하는 것입니다.[171]

인터넷 반응

2017년부터 바이스의 사만다 콜은 딥페이크 포르노를 둘러싼 뉴스를 다루는 기사를 연재했습니다.[172][173][174][81][79][175][176][43]2018년 1월 31일, Gfycat은 모든 딥페이크를 사이트에서 제거하기 시작했습니다.[174][14]레딧에서 r/deepfake subreddit은 "자발적 포르노" 정책 위반으로 인해 2018년 2월 7일에 금지되었습니다.[177][178][179][180][181]같은 달 트위터의 대표자들은 비합의적인 딥페이크 콘텐츠를 게시한 것으로 의심되는 계정들을 정지할 것이라고 말했습니다.[175]채팅 사이트 디스코드는 과거 딥페이크에 대해 조치를 취했으며,[182] 딥페이크에 대해서는 일반적인 입장을 취했습니다.[14][183]2018년 9월, 구글은 "자발적 합성 포르노 이미지"를 금지 목록에 추가하여 누구나 자신의 가짜 누드를 보여주는 결과 블록을 요청할 수 있게 했습니다.[184][check quotation syntax] 2018년 2월, Pornhub는 웹사이트에서 딥페이크 비디오가 서비스 조건을 위반하는 "비동의 콘텐츠"로 간주되기 때문에 이를 금지할 것이라고 밝혔습니다.[173]그들은 또한 이전에 매셔블에 딥 페이크로 표시된 콘텐츠를 삭제할 것이라고 말했습니다.[185]버즈피드 뉴스의 마더보드 작가들은 Pornhub에서 "딥페이크"를 검색하면 여전히 여러 개의 최근 딥페이크 비디오가 반환된다고 보고했습니다.[173]

페이스북은 이전에 자사 플랫폼에서 딥페이크를 제거하지 않을 것이라고 밝힌 바 있습니다.[186]대신 제3자가 비디오를 가짜로 표시한 후 사용자 피드의 우선 순위가 줄어듭니다.[172]이러한 반응은 2019년 6월 페이스북과 인스타그램2016년 마크 저커버그의 영상을 담은 딥페이크가 유포된 후 촉발되었습니다.[186]

2022년 5월, 구글은 공식적으로 주피터 노트북의 서비스 약관을 변경하여 딥페이크를 만들 목적으로 콜랩 서비스를 사용하는 것을 금지했습니다.[187]이것은 "대부분의 딥 페이크는 비동의 포르노"이며, 구글의 공동 연구소와 결합하여 종종 사용되는 "이 세대의 딥 페이크의 대다수를 움직이는 가장 중요한 기술"인 인기 있는 딥 페이크 소프트웨어 DFL(DeepFaceLab)의 주요 사용을 주장하는 VICE 기사가 발표된 지 며칠 후에 나왔습니다.월트 디즈니 컴퍼니가 의뢰한 딥페이크, 공식 뮤직비디오, 사우스 파크 제작자의 웹 시리즈 새시 저스티스 등 다른 여러 제3자 DFL 구현 사례 중에서도 DFL의 GitHub 페이지가 딥페이크 포르노 웹사이트 Mr.로 연결된다는 사실을 지적함으로써 비동의적인 포르노를 만드는 것입니다. 딥페이크와 DFL 디스코드 서버의 참가자들도 딥페이크에 참여합니다.[188]

법적대응

미국에서는 딥페이크로 인해 발생하는 문제들에 대한 반응이 있었습니다.2018년 미국 상원에 악의적 딥페이크 금지법이 도입되었고,[189] 2019년 하원에 딥페이크 책임법이 도입되었습니다.[15]버지니아,[190] 텍사스, 캘리포니아, 뉴욕을 포함한 몇몇 주에서도 가짜에 관한 법률을 도입했습니다.[191]2019년 10월 3일 캘리포니아 주지사 개빈 뉴섬은 의회 법안 602호와 730호에 서명했습니다.[192][193]의회 법안 제602호는 성적으로 노골적인 딥페이크 콘텐츠의 대상이 되는 개인에게 콘텐츠 제작자에 대한 조치 사유를 제공합니다.[192]국회 730호 법안은 공직에 출마한 후보자가 당선된 날로부터 60일 이내에 악의적인 딥페이크 오디오나 시각 미디어를 유포하는 것을 금지하고 있습니다.[193]

2019년 11월, 중국은 딥 페이크와 다른 합성적으로 조작된 영상에 2020년부터 그들의 가짜에 대한 명확한 고지가 있어야 한다고 발표했습니다.중국 사이버공간관리국은 이를 지키지 않으면 범죄로 간주할 수 있다고 웹사이트에 밝혔습니다.[194]중국 정부는 이 규정을 지키지 않는 사용자와 온라인 동영상 플랫폼 모두를 기소할 권리를 유보하고 있는 것으로 보입니다.[195]

영국에서는 딥페이크 소재 제작자를 추행죄로 기소할 수 있지만, 딥페이크를 특정 범죄로 만들자는 주장이 제기되고 있고,[196] 신분 도용, 사이버스토킹, 리벤지 포르노 등 다양한 혐의를 받고 있는 미국에서는 좀 더 포괄적인 법 개념도 거론되고 있습니다.[184]

캐나다의 통신 보안 기구는 캐나다 정치에 개입하기 위해, 특히 정치인들의 신용을 떨어뜨리고 유권자들에게 영향을 미치기 위해 딥 페이크가 사용될 수 있다는 보고서를 발표했습니다.[197][198]결과적으로 캐나다 시민들은 자신들의 표적이 될 경우 딥페이크에 대처할 수 있는 다양한 방법이 있습니다.[199]

인도에서는 AI나 딥페이크에 대한 직접적인 법이나 규제는 없지만 인도 형법(IPC)과 정보기술()에 따른 규정이 있습니다.IT) 법 2000/2008 법, 법적 구제를 위해 살펴볼 수 있지만, 새로운 제안된 디지털 인도 법은 특히 MoS 라지브 찬드라세카르에 따라 AI와 딥페이크에 대한 장을 갖게 될 것입니다.[200]

DARPA의 응답

2018년 국방고등연구계획국(DARPA)은 개인들이 인공지능이 만든 비디오, 오디오, 이미지와 이러한 딥페이크를 탐지하는 자동화된 도구를 만들기 위해 경쟁하는 프로젝트에 자금을 지원했습니다.[201]DARPA는 2019년 시맨틱 포렌식 프로그램과 관련된 프로젝트를 위해 "제안자의 날"을 개최하여 AI 조작 매체의 바이러스 확산을 방지하기 위해 연구원들을 몰아갔습니다.[202]DARPA와 시맨틱 포렌식 프로그램은 또한 상식적이고 논리적인 추론을 활용하도록 컴퓨터를 훈련시키는 노력을 통해 AI가 조작한 미디어를 탐지하기 위해 협력하고 있었습니다.[202]2020년 DARPA는 딥페이크와 인공지능이 생성한 미디어가 제기하는 증가하는 피해를 감지하고 완화하기 위해 미디어 포렌식(MediFor) 프로그램을 만들었습니다. 미디어가 어떻게 생성되었는지에 대한 정보를 제공하고 딥페이크의 결과적인 역할과 의사결정에 미치는 영향을 다루고 강조하기 위해 미디어 포렌식(MediFor) 프로그램을 만들었습니다.[203]

대중문화에서

  • 1986년 12월 중순 아날로그 잡지는 잭 워덤스의 소설 "피커"를 출판했습니다.그것의 줄거리는 비양심적인 변호사와 정치인들에게 봉사하는 숙련된 해커들에 의해 디지털 방식으로 향상되거나 디지털 방식으로 생성된 비디오를 중심으로 전개됩니다.[204]
  • 아놀드 슈왈제네거가 주연한 1987년 영화 런닝맨은 컴퓨터를 이용해 배우들의 얼굴을 수배자들의 얼굴로 디지털 방식으로 대체하는 독재 정부를 묘사하여 탈주자들이 무력화된 것처럼 보이게 합니다.
  • 1992년 필립 의 테크노 스릴러 A Philip-thriller A Philosophical Investigation에서 주인공이자 연쇄 살인범인 "비트겐슈타인"은 딥페이크와 유사한 소프트웨어와 가상 현실 슈트를 사용하여 그를 잡도록 임명된 여경 이사도라 "제이크" 야코비츠의 아바타와 성관계를 갖습니다.[205]
  • 숀 코네리와 웨슬리 스나입스가 주연한 1993년 영화 라이징 선은 또 다른 등장인물인 징고 아사쿠마를 묘사하는데, 그는 컴퓨터 디스크가 경쟁자를 연루시키기 위해 개인의 신원을 디지털 방식으로 바꿨다고 말합니다.
  • 딥페이크 기술은 2019년 BBC One TV 시리즈 The Capture의 줄거리 중 일부입니다.첫 번째 시리즈는 변호사를 폭행하고 납치한 혐의를 받고 있는 전 영국 육군 병장 숀 에머리를 따라갑니다.전문적으로 조작된 CCTV 영상이 그를 모함하고 사건을 수사하는 경찰을 호도한 것으로 드러났습니다.[206][207]두 번째 시리즈는 정치인 아이작 터너가 "수정"이 결국 대중에게 드러날 때까지 또 다른 가짜가 자신의 명성을 더럽히고 있다는 것을 알게 되는 과정을 따라갑니다.
  • Al Davis vs. NFL: ESPN의 30대 다큐멘터리 시리즈 중 일부인 이 2021년 다큐멘터리의 서사 구조는 영화의 두 중심 인물오클랜드로스앤젤레스에서 팀 재임 기간 동안 라스베이거스 레이더스를 소유했던 Al Davis와 Pete Rozelle의 딥페이크 버전을 사용합니다.데이비스와 자주 충돌했던 NFL [208][209]위원
  • 딥페이크 기술은 2022년 1월 6일 첫 방송된 캐나다 경찰 시리즈 허드슨 렉스의 57번째 에피소드인 임파우스터 신드롬에 등장합니다.존의 경찰팀은 그의 모습을 이용한 CCTV 영상 조작으로 인한 강도 및 폭행 혐의로 조사를 받고 있습니다.[210]
  • 음악가 켄드릭 라마(Kendrick Lamar)는 2022년 싱글 "The Heart Part 5" 뮤직비디오에서 딥페이크 기술을 사용하여 닙시 허슬(Nipsey Hussle), O.J. 심슨(O.J. Simpson) 및 카니예 웨스트(Kanye West)[211]를 닮은 인물로 변신했습니다.영상 속 딥페이크 기술은 사우스 파크를 만든 트레이 파커와 맷 스톤이 이끄는 스튜디오 딥 부두(Deep Voodoo)가 만들었습니다.[211]
  • 알로에 블락(Aloe Blacc)은 딥페이크 기술을 사용하여 그들의 노래 "[212]Wake Me Up"을 영어, 스페인어북경어로 공연함으로써 사망 4년 후 그의 오랜 협력자인 아비치(Avicii)를 기렸습니다.[213]
  • 2023년 1월, ITVX는 다양한 연예인들이 무지막지한 갈등을 겪고 있는 배우들에 의해 연기되는 딥 페이크 이웃 전쟁 시리즈를 공개했습니다.[214]
  • 2023년 10월, 톰 행크스는 그의 인스타그램 페이지에 "치과 계획"을 홍보하는 모습을 묘사한 명백한 가짜 유사 사진을 공유했습니다.행크스는 그의 팬들에게 "조심하세요… 저는 그것과 아무 관련이 없습니다"[215]라고 경고했습니다.

참고 항목

참고문헌

  1. ^ Brandon, John (16 February 2018). "Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise". Fox News. Archived from the original on 15 June 2018. Retrieved 20 February 2018.
  2. ^ "Prepare, Don't Panic: Synthetic Media and Deepfakes". witness.org. Archived from the original on 2 December 2020. Retrieved 25 November 2020.
  3. ^ Juefei-Xu, Felix; Wang, Run; Huang, Yihao; Guo, Qing; Ma, Lei; Liu, Yang (1 July 2022). "Countering Malicious DeepFakes: Survey, Battleground, and Horizon". International Journal of Computer Vision. 130 (7): 1678–1734. doi:10.1007/s11263-022-01606-8. ISSN 1573-1405. PMC 9066404. PMID 35528632.
  4. ^ a b Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). "Deepfakes: Trick or treat?" (PDF). Business Horizons. 63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006. S2CID 213818098.
  5. ^ Waldrop, M. Mitchell (16 March 2020). "Synthetic media: The real trouble with deepfakes". Knowable Magazine. Annual Reviews. doi:10.1146/knowable-031320-1. Retrieved 19 December 2022.
  6. ^ Schwartz, Oscar (12 November 2018). "You thought fake news was bad? Deep fakes are where truth goes to die". The Guardian. Archived from the original on 16 June 2019. Retrieved 14 November 2018.
  7. ^ a b c d Charleer, Sven (17 May 2019). "Family fun with deepfakes. Or how I got my wife onto the Tonight Show". Medium. Archived from the original on 11 February 2018. Retrieved 8 November 2019.
  8. ^ Farid, Hany (15 September 2019). "Image Forensics". Annual Review of Vision Science. 5 (1): 549–573. doi:10.1146/annurev-vision-091718-014827. ISSN 2374-4642. PMID 31525144. S2CID 263558880.
  9. ^ Banks, Alec (20 February 2018). "What Are Deepfakes & Why the Future of Porn is Terrifying". Highsnobiety. Archived from the original on 14 July 2021. Retrieved 20 February 2018.
  10. ^ Christian, Jon. "Experts fear face swapping tech could start an international showdown". The Outline. Archived from the original on 16 January 2020. Retrieved 28 February 2018.
  11. ^ Roose, Kevin (4 March 2018). "Here Come the Fake Videos, Too". The New York Times. ISSN 0362-4331. Archived from the original on 18 June 2019. Retrieved 24 March 2018.
  12. ^ Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damian (October 2019). "Adversarial Learning of Deepfakes in Accounting". arXiv:1910.03810 [cs.LG].
  13. ^ a b c Pawelec, M (2022). "Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions". Digital Society: Ethics, Socio-legal and Governance of Digital Technology. 1 (2): 19. doi:10.1007/s44206-022-00010-6. PMC 9453721. PMID 36097613.
  14. ^ a b c Ghoshal, Abhimanyu (7 February 2018). "Twitter, Pornhub and other platforms ban AI-generated celebrity porn". The Next Web. Archived from the original on 20 December 2019. Retrieved 9 November 2019.
  15. ^ a b Clarke, Yvette D. (28 June 2019). "H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019". www.congress.gov. Archived from the original on 17 December 2019. Retrieved 16 October 2019.
  16. ^ Caramancion, Kevin Matthe (21 April 2021). "The Demographic Profile Most at Risk of being Disinformed". 2021 IEEE International IOT, Electronics and Mechatronics Conference (IEMTRONICS). IEEE. pp. 1–7. doi:10.1109/iemtronics52119.2021.9422597. ISBN 978-1-6654-4067-7. S2CID 234499888.
  17. ^ Lalla, Vejay; Mitrani, Adine; Harned, Zach. "Artificial Intelligence: Deepfakes in the Entertainment Industry". World Intellectual Property Organization. Retrieved 8 November 2022.
  18. ^ a b c Harwell, Drew (12 June 2019). "Top AI researchers race to detect 'deepfake' videos: 'We are outgunned'". The Washington Post. Archived from the original on 31 October 2019. Retrieved 8 November 2019.
  19. ^ Sanchez, Julian (8 February 2018). "Thanks to AI, the future of 'fake news' is being pioneered in homemade porn". NBC News. Archived from the original on 9 November 2019. Retrieved 8 November 2019.
  20. ^ a b c d Porter, Jon (2 September 2019). "Another convincing deepfake app goes viral prompting immediate privacy backlash". The Verge. Archived from the original on 3 September 2019. Retrieved 8 November 2019.
  21. ^ Bode, Lisa; Lees, Dominic; Golding, Dan (29 July 2021). "The Digital Face and Deepfakes on Screen". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 849–854. doi:10.1177/13548565211034044. ISSN 1354-8565. S2CID 237402465.
  22. ^ a b Holliday, Christopher (26 July 2021). "Rewriting the stars: Surface tensions and gender troubles in the online media production of digital deepfakes". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 899–918. doi:10.1177/13548565211029412. ISSN 1354-8565. S2CID 237402548.
  23. ^ Gingrich, Oliver M. (5 July 2021). "GENDER*UCK: Reframing gender & media art". Proceedings of EVA London 2021 (EVA 2021). Electronic Workshops in Computing. doi:10.14236/ewic/EVA2021.25. S2CID 236918199.
  24. ^ Fletcher, John (2018). "Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance". Theatre Journal. 70 (4): 455–471. doi:10.1353/tj.2018.0097. ISSN 1086-332X. S2CID 191988083.
  25. ^ Öhman, Carl (1 June 2020). "Introducing the pervert's dilemma: a contribution to the critique of Deepfake Pornography". Ethics and Information Technology. 22 (2): 133–140. doi:10.1007/s10676-019-09522-1. ISSN 1572-8439. S2CID 208145457.
  26. ^ van der Nagel, Emily (1 October 2020). "Verifying images: deepfakes, control, and consent". Porn Studies. 7 (4): 424–429. doi:10.1080/23268743.2020.1741434. ISSN 2326-8743. S2CID 242891792.
  27. ^ Fallis, Don (1 December 2021). "The Epistemic Threat of Deepfakes". Philosophy & Technology. 34 (4): 623–643. doi:10.1007/s13347-020-00419-2. ISSN 2210-5433. PMC 7406872. PMID 32837868.
  28. ^ Chesney, Robert; Citron, Danielle Keats (2018). "Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security". SSRN Electronic Journal. doi:10.2139/ssrn.3213954. ISSN 1556-5068.
  29. ^ Yadlin-Segal, Aya; Oppenheim, Yael (February 2021). "Whose dystopia is it anyway? Deepfakes and social media regulation". Convergence: The International Journal of Research into New Media Technologies. 27 (1): 36–51. doi:10.1177/1354856520923963. ISSN 1354-8565. S2CID 219438536.
  30. ^ Hwang, Yoori; Ryu, Ji Youn; Jeong, Se-Hoon (1 March 2021). "Effects of Disinformation Using Deepfake: The Protective Effect of Media Literacy Education". Cyberpsychology, Behavior, and Social Networking. 24 (3): 188–193. doi:10.1089/cyber.2020.0174. ISSN 2152-2715. PMID 33646021. S2CID 232078561.
  31. ^ Hight, Craig (12 November 2021). "Deepfakes and documentary practice in an age of misinformation". Continuum. 36 (3): 393–410. doi:10.1080/10304312.2021.2003756. ISSN 1030-4312. S2CID 244092288.
  32. ^ Hancock, Jeffrey T.; Bailenson, Jeremy N. (1 March 2021). "The Social Impact of Deepfakes". Cyberpsychology, Behavior, and Social Networking. 24 (3): 149–152. doi:10.1089/cyber.2021.29208.jth. ISSN 2152-2715. PMID 33760669. S2CID 232356146.
  33. ^ de Seta, Gabriele (30 July 2021). "Huanlian , or changing faces: Deepfakes on Chinese digital media platforms". Convergence: The International Journal of Research into New Media Technologies. 27 (4): 935–953. doi:10.1177/13548565211030185. hdl:11250/2833613. ISSN 1354-8565. S2CID 237402447.
  34. ^ a b Bregler, Christoph; Covell, Michele; Slaney, Malcolm (1997). "Video Rewrite: Driving visual speech with audio". Proceedings of the 24th annual conference on Computer graphics and interactive techniques - SIGGRAPH '97. Vol. 24. pp. 353–360. doi:10.1145/258734.258880. ISBN 0897918967. S2CID 2341707.
  35. ^ a b c Suwajanakorn, Supasorn; Seitz, Steven M.; Kemelmacher-Shlizerman, Ira (July 2017). "Synthesizing Obama: Learning Lip Sync from Audio". ACM Trans. Graph. 36 (4): 95:1–95:13. doi:10.1145/3072959.3073640. S2CID 207586187.
  36. ^ a b c Thies, Justus; Zollhöfer, Michael; Stamminger, Marc; Theobalt, Christian; Nießner, Matthias (June 2016). "Face2Face: Real-Time Face Capture and Reenactment of RGB Videos". 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). IEEE. pp. 2387–2395. arXiv:2007.14808. doi:10.1109/CVPR.2016.262. ISBN 9781467388511. S2CID 206593693.
  37. ^ "Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted". The Verge. Archived from the original on 17 May 2019. Retrieved 27 August 2018.
  38. ^ Farquhar, Peter (27 August 2018). "An AI program will soon be here to help your deepface dancing – just don't call it deepfake". Business Insider Australia. Archived from the original on 10 April 2019. Retrieved 27 August 2018.
  39. ^ Mirsky, Yisroel; Mahler, Tom; Shelef, Ilan; Elovici, Yuval (2019). CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning. pp. 461–478. arXiv:1901.03597. ISBN 978-1-939133-06-9. Archived from the original on 20 June 2020. Retrieved 18 June 2020.
  40. ^ O'Neill, Patrick Howell (3 April 2019). "Researchers Demonstrate Malware That Can Trick Doctors Into Misdiagnosing Cancer". Gizmodo. Retrieved 3 June 2022.
  41. ^ Mirsky, Yisroel; Lee, Wenke (12 May 2020). "The Creation and Detection of Deepfakes: A Survey". ACM Computing Surveys. arXiv:2004.11138. doi:10.1145/3425780. S2CID 216080410.
  42. ^ Karnouskos, Stamatis (2020). "Artificial Intelligence in Digital Media: The Era of Deepfakes" (PDF). IEEE Transactions on Technology and Society. 1 (3): 1. doi:10.1109/TTS.2020.3001312. S2CID 221716206. Archived (PDF) from the original on 14 July 2021. Retrieved 9 July 2020.
  43. ^ a b c Cole, Samantha (24 January 2018). "We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now". Vice. Archived from the original on 7 September 2019. Retrieved 4 May 2019.
  44. ^ Haysom, Sam (31 January 2018). "People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018". Mashable. Archived from the original on 24 July 2019. Retrieved 4 April 2019.
  45. ^ "r/SFWdeepfakes". Reddit. Archived from the original on 9 August 2019. Retrieved 12 December 2018.
  46. ^ Hathaway, Jay (8 February 2018). "Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban". The Daily Dot. Archived from the original on 6 July 2019. Retrieved 22 December 2018.
  47. ^ "What is a Deepfake and How Are They Made?". Online Tech Tips. 23 May 2019. Archived from the original on 8 November 2019. Retrieved 8 November 2019.
  48. ^ Robertson, Adi (11 February 2018). "I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it". The Verge. Archived from the original on 24 March 2018. Retrieved 8 November 2019.
  49. ^ "Deepfakes web The best online faceswap app". Deepfakes web. Archived from the original on 14 July 2021. Retrieved 21 February 2021.
  50. ^ "Faceswap is the leading free and Open Source multi-platform Deepfakes software". 15 October 2019. Archived from the original on 31 May 2021. Retrieved 14 July 2021 – via WordPress.
  51. ^ "DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab". 19 June 2019. Archived from the original on 9 May 2019. Retrieved 6 March 2019 – via GitHub.
  52. ^ Chandler, Simon. "Why Deepfakes Are A Net Positive For Humanity". Forbes. Archived from the original on 16 November 2020. Retrieved 3 November 2020.
  53. ^ Pangburn, D. J. (21 September 2019). "You've been warned: Full body deepfakes are the next step in AI-based human mimicry". Fast Company. Archived from the original on 8 November 2019. Retrieved 8 November 2019.
  54. ^ Lyons, Kim (29 January 2020). "FTC says the tech behind audio deepfakes is getting better". The Verge. Archived from the original on 30 January 2020. Retrieved 8 February 2020.
  55. ^ "Audio samples from "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis"". google.github.io. Archived from the original on 14 November 2019. Retrieved 8 February 2020.
  56. ^ Jia, Ye; Zhang, Yu; Weiss, Ron J.; Wang, Quan; Shen, Jonathan; Ren, Fei; Chen, Zhifeng; Nguyen, Patrick; Pang, Ruoming; Moreno, Ignacio Lopez; Wu, Yonghui (2 January 2019). "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis". arXiv:1806.04558 [cs.CL].
  57. ^ "TUM Visual Computing: Prof. Matthias Nießner". www.niessnerlab.org. Archived from the original on 21 February 2020. Retrieved 8 February 2020.
  58. ^ "Full Page Reload". IEEE Spectrum: Technology, Engineering, and Science News. 11 December 2019. Archived from the original on 26 June 2020. Retrieved 8 February 2020.
  59. ^ "Contributing Data to Deepfake Detection Research". 24 September 2019. Archived from the original on 5 February 2020. Retrieved 8 February 2020.
  60. ^ Thalen, Mikael. "You can now deepfake yourself into a celebrity with just a few clicks". daily dot. Archived from the original on 6 April 2020. Retrieved 3 April 2020.
  61. ^ Matthews, Zane (6 March 2020). "Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies". Kool1079. Archived from the original on 24 March 2020. Retrieved 6 March 2020.
  62. ^ "Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead?". BBC News. 31 October 2020. Archived from the original on 15 November 2020. Retrieved 11 November 2020.
  63. ^ "Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday". themodems. 30 October 2020. Archived from the original on 11 November 2020. Retrieved 11 November 2020.
  64. ^ "Parkland victim Joaquin Oliver comes back to life in heartbreaking plea to voters". adage.com. 2 October 2020. Archived from the original on 11 November 2020. Retrieved 11 November 2020.
  65. ^ Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard. Retrieved 8 November 2022.
  66. ^ "John Lennon "One Laptop per Child" Commecial". YouTube.
  67. ^ Zucconi, Alan (14 March 2018). "Understanding the Technology Behind DeepFakes". Alan Zucconi. Archived from the original on 1 November 2019. Retrieved 8 November 2019.
  68. ^ "What is a Deepfake?". Blog - Synthesys. 3 May 2022. Retrieved 17 May 2022.
  69. ^ a b c d e Kan, C. E. (10 December 2018). "What The Heck Are VAE-GANs?". Medium. Archived from the original on 14 July 2021. Retrieved 8 November 2019.
  70. ^ a b "These New Tricks Can Outsmart Deepfake Videos—for Now". Wired. ISSN 1059-1028. Archived from the original on 3 October 2019. Retrieved 9 November 2019.
  71. ^ a b Tayler, Kelley M.; Harris, Laurie A. (8 June 2021). Deep Fakes and National Security (Report). Congressional Research Service. p. 1. Retrieved 19 July 2021.
  72. ^ Limberg, Peter (24 May 2020). "Blackmail Inflation". CultState. Archived from the original on 24 January 2021. Retrieved 18 January 2021.
  73. ^ "For Kappy". Telegraph. 24 May 2020. Archived from the original on 24 January 2021. Retrieved 18 January 2021.
  74. ^ a b Roettgers, Janko (21 February 2018). "Porn Producers Offer to Help Hollywood Take Down Deepfake Videos". Variety. Archived from the original on 10 June 2019. Retrieved 28 February 2018.
  75. ^ a b c Dickson, E. J. (7 October 2019). "Deepfake Porn Is Still a Threat, Particularly for K-Pop Stars". Rolling Stone. Archived from the original on 30 October 2019. Retrieved 9 November 2019.
  76. ^ "The State of Deepfake - Landscape, Threats, and Impact" (PDF). Deeptrace. 1 October 2019. Archived (PDF) from the original on 9 August 2020. Retrieved 7 July 2020.
  77. ^ Goggin, Benjamin (7 June 2019). "From porn to 'Game of Thrones': How deepfakes and realistic-looking fake videos hit it big". Business Insider. Archived from the original on 8 November 2019. Retrieved 9 November 2019.
  78. ^ Lee, Dave (3 February 2018). "'Fake porn' has serious consequences". Archived from the original on 1 December 2019. Retrieved 9 November 2019.
  79. ^ a b Cole, Samantha (19 June 2018). "Gfycat's AI Solution for Fighting Deepfakes Isn't Working". Vice. Archived from the original on 8 November 2019. Retrieved 9 November 2019.
  80. ^ Zoe, Freni (24 November 2019). "Deepfake Porn Is Here To Stay". Medium. Archived from the original on 10 December 2019. Retrieved 10 December 2019.
  81. ^ a b Cole, Samantha; Maiberg, Emanuel; Koebler, Jason (26 June 2019). "This Horrifying App Undresses a Photo of Any Woman with a Single Click". Vice. Archived from the original on 2 July 2019. Retrieved 2 July 2019.
  82. ^ Cox, Joseph (9 July 2019). "GitHub Removed Open Source Versions of DeepNude". Vice Media. Archived from the original on 24 September 2020. Retrieved 14 July 2019.
  83. ^ "pic.twitter.com/8uJKBQTZ0o". 27 June 2019. Archived from the original on 6 April 2021. Retrieved 3 August 2019.
  84. ^ Romano, Aja (18 April 2018). "Jordan Peele's simulated Obama PSA is a double-edged warning against fake news". Vox. Archived from the original on 11 June 2019. Retrieved 10 September 2018.
  85. ^ a b c d "Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos". az Aargauer Zeitung. 3 February 2018. Archived from the original on 13 April 2019. Retrieved 9 April 2018.
  86. ^ Gensing, Patrick. "Deepfakes: Auf dem Weg in eine alternative Realität?". Archived from the original on 11 October 2018. Retrieved 9 April 2018.
  87. ^ Swenson, Kyle (11 January 2019). "A Seattle TV station aired doctored footage of Trump's Oval Office speech. The employee has been fired". The Washington Post. Archived from the original on 15 April 2019. Retrieved 11 January 2019.
  88. ^ O'Sullivan, Donie (4 June 2019). "Congress to investigate deepfakes as doctored Pelosi video causes stir". CNN. Archived from the original on 29 June 2019. Retrieved 9 November 2019.
  89. ^ "#TellTheTruthBelgium". Extinction Rebellion Belgium. Archived from the original on 25 April 2020. Retrieved 21 April 2020.
  90. ^ Holubowicz, Gerald (15 April 2020). "Extinction Rebellion s'empare des deepfakes". Journalism.design (in French). Archived from the original on 29 July 2020. Retrieved 21 April 2020.
  91. ^ Carnahan, Dustin (16 September 2020). "Faked videos shore up false beliefs about Biden's mental health". The Conversation. Retrieved 9 April 2022.
  92. ^ Parker, Ashley (7 September 2020). "Trump and allies ramp up efforts to spread disinformation and fake news". The Independent. Retrieved 9 April 2022.
  93. ^ Christopher, Nilesh (18 February 2020). "We've Just Seen the First Use of Deepfakes in an Indian Election Campaign". Vice. Archived from the original on 19 February 2020. Retrieved 19 February 2020.
  94. ^ "Amabie: the mythical creature making a coronavirus comeback". The Economist. 28 April 2020. ISSN 0013-0613. Archived from the original on 20 May 2021. Retrieved 3 June 2021.
  95. ^ Roth, Andrew (22 April 2021). "European MPs targeted by deepfake video calls imitating Russian opposition". The Guardian. Retrieved 29 March 2022.
  96. ^ Ivanov, Maxim; Rothrock, Kevin (22 April 2021). "Hello, this is Leonid Volkov* Using deepfake video and posing as Navalny's right-hand man, Russian pranksters fool Latvian politicians and journalists into invitation and TV interview". Meduza. Retrieved 29 March 2022.
  97. ^ "Dutch MPs in video conference with deep fake imitation of Navalny's Chief of Staff". NL Times. 24 April 2021. Retrieved 29 March 2022.
  98. ^ "'Deepfake' Navalny Aide Targets European Lawmakers". The Moscow Times. 23 April 2021. Retrieved 29 March 2022.
  99. ^ Vincent, James (30 April 2021). "'Deepfake' that supposedly fooled European politicians was just a look-alike, say pranksters". The Verge.
  100. ^ Novak, Matt (8 May 2023). "Viral Video Of Kamala Harris Speaking Gibberish Is Actually A Deepfake". Forbes.
  101. ^ "PolitiFact - Kamala Harris wasn't slurring about today, yesterday or tomorrow. This video is altered". Politifact.
  102. ^ Shuham, Matt (8 June 2023). "DeSantis Campaign Ad Shows Fake AI Images Of Trump Hugging Fauci". HuffPost. Retrieved 8 June 2023.
  103. ^ Sonne, Paul (5 June 2023). "Fake Putin Speech Calling for Martial Law Aired in Russia". The New York Times. Retrieved 6 June 2023.
  104. ^ 카테리나 씨젝, 윌리엄 유리키오, 사라 월로진: 지혜의 집단 매사추세츠 공과대학교 [1] 2020년 3월 4일 웨이백 머신에서 보관.
  105. ^ "ANSA Ornella Muti in cortometraggio a Firenze". 3 November 2017. Archived from the original on 27 February 2020. Retrieved 27 February 2020.
  106. ^ "'South Park' creators launch new deepfake satire series 'Sassy Justice'". NME. 27 October 2020. Retrieved 7 June 2022.
  107. ^ Kemp, Luke (8 July 2019). "In the age of deepfakes, could virtual actors put humans out of business?". The Guardian. ISSN 0261-3077. Archived from the original on 20 October 2019. Retrieved 20 October 2019.
  108. ^ Radulovic, Petrana (17 October 2018). "Harrison Ford is the star of Solo: A Star Wars Story thanks to deepfake technology". Polygon. Archived from the original on 20 October 2019. Retrieved 20 October 2019.
  109. ^ Winick, Erin. "How acting as Carrie Fisher's puppet made a career for Rogue One's Princess Leia". MIT Technology Review. Archived from the original on 23 October 2019. Retrieved 20 October 2019.
  110. ^ "Deepfake Luke Skywalker is another step down a ghoulish CGI path". British GQ. 10 February 2022. Retrieved 3 June 2022.
  111. ^ a b "High-Resolution Neural Face Swapping for Visual Effects Disney Research Studios". Archived from the original on 27 November 2020. Retrieved 7 October 2020.
  112. ^ a b "Disney's deepfake technology could be used in film and TV". Blooloop. 21 July 2020. Archived from the original on 12 November 2020. Retrieved 7 October 2020.
  113. ^ Lindley, Jon A. (2 July 2020). "Disney Ventures Into Bringing Back 'Dead Actors' Through Facial Recognition". Tech Times. Archived from the original on 14 July 2021. Retrieved 7 October 2020.
  114. ^ Dazed (10 February 2022). "Will deepfakes rewrite history as we know it?". Dazed. Retrieved 3 June 2022.
  115. ^ "The AGT Judges Had Priceless Reactions to That Simon Cowell Singing Audition". NBC Insider Official Site. 8 June 2022. Retrieved 29 August 2022.
  116. ^ Marr, Bernard. "Can A Metaverse AI Win America's Got Talent? (And What That Means For The Industry)". Forbes. Retrieved 30 August 2022.
  117. ^ Morales, Jowi (10 June 2022). "Deepfakes Go Mainstream: How Metaphysic's AGT Entry Will Impact Entertainment". MUO. Retrieved 29 August 2022.
  118. ^ Carter, Rebecca (1 June 2019). "BGT viewers slam Simon Cowell for 'rude' and 'nasty' remark to contestant". Entertainment Daily. Retrieved 31 August 2022.
  119. ^ Simon Cowell Sings on Stage?! Metaphysic Will Leave You Speechless AGT 2022, retrieved 29 August 2022
  120. ^ Segarra, Edward. "'AGT' judges Simon Cowell, Howie Mandel get 'deepfake' treatment by AI act Metaphysic: Watch here". USA TODAY. Retrieved 31 August 2022.
  121. ^ Bowenbank, Starr (14 September 2022). "Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch". Billboard. Retrieved 15 September 2022.
  122. ^ Zwiezen, Zack (18 January 2021). "Website Lets You Make GLaDOS Say Whatever You Want". Kotaku. Archived from the original on 17 January 2021. Retrieved 18 January 2021.
  123. ^ Ruppert, Liana (18 January 2021). "Make Portal's GLaDOS And Other Beloved Characters Say The Weirdest Things With This App". Game Informer. Game Informer. Archived from the original on 18 January 2021. Retrieved 18 January 2021.
  124. ^ Clayton, Natalie (19 January 2021). "Make the cast of TF2 recite old memes with this AI text-to-speech tool". PC Gamer. Archived from the original on 19 January 2021. Retrieved 19 January 2021.
  125. ^ C, Kim (22 August 2020). "Coffin Dance and More: The Music Memes of 2020 So Far". Music Times. Archived from the original on 26 June 2021. Retrieved 26 August 2020.
  126. ^ Sholihyn, Ilyas (7 August 2020). "Someone deepfaked Singapore's politicians to lip-sync that Japanese meme song". AsiaOne. Archived from the original on 3 September 2020. Retrieved 26 August 2020.
  127. ^ Damiani, Jesse. "Chinese Deepfake App Zao Goes Viral, Faces Immediate Criticism Over User Data And Security Policy". Forbes. Archived from the original on 14 September 2019. Retrieved 18 November 2019.
  128. ^ "Ahead of Irish and US elections, Facebook announces new measures against 'deepfake' videos". Independent.ie. 7 January 2020. Archived from the original on 8 January 2020. Retrieved 7 January 2020.
  129. ^ "How Belgian visual expert Chris Ume masterminded Tom Cruise's deepfakes". The Statesman. 6 March 2021. Retrieved 24 August 2022.
  130. ^ Metz, Rachel. "How a deepfake Tom Cruise on TikTok turned into a very real AI company". CNN.
  131. ^ Corcoran, Mark; Henry, Matt (23 June 2021). "This is not Tom Cruise. That's what has security experts so worried". ABC News. Retrieved 28 March 2022.
  132. ^ 로이터, 2020년 7월 15일, 활동가 커플을 공격하는 데 사용된 딥페이크, 2020년 9월 26일 웨이백 머신에서 보관새로운 허위 정보 프론티어를 보여줍니다.
  133. ^ 972 매거진, 2020년 8월 12일, "'비비를 위한 좌파'? 폭로된 가짜 친네타냐후 선전: 일련의 페이스북 게시물에 따르면 이스라엘 총리가 좌파 추종자들을 이기고 있습니다--문제의 사람들아무도 존재하지 않는다는 것을 제외하고는" 2020년 8월 14일 웨이백 머신보관됨
  134. ^ The Seventh Eye, 9 June 2020, הפורנוגרפיה של ההסתהתומכי נתניהו ממשיכים להפיץ פוסטים מזויפים בקבוצות במדיה החברתית • לצד הטרלות מעלות גיחוך מופצות תמונות שקריות על מנת להגביר את השנאה והפילוג בחברה הישראלית Archived 18 August 2020 at the Wayback Machine
  135. ^ Statt, Nick (5 September 2019). "Thieves are now using AI deepfakes to trick companies into sending them money". Archived from the original on 15 September 2019. Retrieved 13 September 2019.
  136. ^ Damiani, Jesse. "A Voice Deepfake Was Used To Scam A CEO Out Of $243,000". Forbes. Archived from the original on 14 September 2019. Retrieved 9 November 2019.
  137. ^ "Weaponised deep fakes: National security and democracy on JSTOR". www.jstor.org. Archived from the original on 22 October 2020. Retrieved 21 October 2020.
  138. ^ Vaccari, Cristian; Chadwick, Andrew (January 2020). "Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News". Social Media + Society. 6 (1): 205630512090340. doi:10.1177/2056305120903408. ISSN 2056-3051. S2CID 214265502.
  139. ^ a b "Perfect Deepfake Tech Could Arrive Sooner Than Expected". www.wbur.org. Archived from the original on 30 October 2019. Retrieved 9 November 2019.
  140. ^ Sonnemaker, Tyler. "As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring". Business Insider. Archived from the original on 14 April 2021. Retrieved 14 April 2021.
  141. ^ a b c Bateman, Jon (2020). "Summary". Deepfakes and Synthetic Media in the Financial System: 1–2. Archived from the original on 20 April 2021. Retrieved 28 October 2020.
  142. ^ Kelion, Leo (September 2020). "Deepfake detection tool unveiled by Microsoft". BBC News. Archived from the original on 14 April 2021. Retrieved 15 April 2021.
  143. ^ Fagan, Kaylee. "A viral video that appeared to show Obama calling Trump a 'dips---' shows a disturbing new trend called 'deepfakes'". Business Insider. Archived from the original on 22 September 2020. Retrieved 3 November 2020.
  144. ^ a b "The rise of the deepfake and the threat to democracy". The Guardian. Archived from the original on 1 November 2020. Retrieved 3 November 2020.
  145. ^ a b "AI-generated images of Trump being arrested circulate on social media". AP News. 21 March 2023. Retrieved 10 October 2023.
  146. ^ "Trump shares deepfake photo of himself praying as AI images of arrest spread online". The Independent. 24 March 2023. Retrieved 16 June 2023.
  147. ^ Towers-Clark, Charles. "Mona Lisa And Nancy Pelosi: The Implications Of Deepfakes". Forbes. Archived from the original on 23 November 2020. Retrieved 7 October 2020.
  148. ^ "What Is The Difference Between A Deepfake And Shallowfake?". 21 April 2020. Archived from the original on 26 June 2022. Retrieved 5 December 2021.
  149. ^ a b c "Deepfake Putin is here to warn Americans about their self-inflicted doom". MIT Technology Review. Archived from the original on 30 October 2020. Retrieved 7 October 2020.
  150. ^ Allyn, Bobby (16 March 2022). "Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn". NPR. Retrieved 17 March 2022.
  151. ^ 화면 속의 사람들은 가짜입니다.잘못된 정보는 진짜입니다.
  152. ^ "Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary'". New York Post. 28 March 2023. Retrieved 16 June 2023.
  153. ^ Lu, Donna (31 March 2023). "Misinformation, mistakes and the Pope in a puffer: what rapidly evolving AI can – and can't – do". The Guardian. Retrieved 16 June 2023.
  154. ^ Murphy, Heather Tal (29 March 2023). "The Pope in a Coat Is Not From a Holy Place". Slate. Retrieved 16 June 2023.
  155. ^ a b c d "Help us shape our approach to synthetic and manipulated media". blog.twitter.com. Archived from the original on 28 October 2020. Retrieved 7 October 2020.
  156. ^ "TechCrunch". TechCrunch. 11 November 2019. Archived from the original on 14 July 2021. Retrieved 7 October 2020.
  157. ^ a b "Deepfake Detection Challenge Results: An open initiative to advance AI". ai.facebook.com. Archived from the original on 29 October 2020. Retrieved 7 October 2020.
  158. ^ a b Paul, Katie (4 February 2020). "Twitter to label deepfakes and other deceptive media". Reuters. Archived from the original on 10 October 2020. Retrieved 7 October 2020.
  159. ^ Cohen, Ariel; Rimon, Inbal; Aflalo, Eran; Permuter, Haim H. (June 2022). "A study on data augmentation in voice anti-spoofing". Speech Communication. 141: 56–67. arXiv:2110.10491. doi:10.1016/j.specom.2022.04.005. S2CID 239050551.
  160. ^ a b c Manke, Kara (18 June 2019). "Researchers use facial quirks to unmask 'deepfakes'". Berkeley News. Archived from the original on 9 November 2019. Retrieved 9 November 2019.
  161. ^ Farid, Hany (1 December 2006). "Digital Doctoring: How to Tell the Real from the Fake". Significance. 3 (4): 162–166. doi:10.1111/j.1740-9713.2006.00197.x. S2CID 13861938.
  162. ^ "Join the Deepfake Detection Challenge (DFDC)". deepfakedetectionchallenge.ai. Archived from the original on 12 January 2020. Retrieved 8 November 2019.
  163. ^ "Deepfake Detection Challenge Results: An open initiative to advance AI". ai.facebook.com. Retrieved 30 September 2022.
  164. ^ Groh, Matthew; Epstein, Ziv; Firestone, Chaz; Picard, Rosalind (2022). "Deepfake detection by human crowds, machines, and machine-informed crowds". Proceedings of the National Academy of Sciences. 119 (1). arXiv:2105.06496. Bibcode:2022PNAS..11910013G. doi:10.1073/pnas.2110013119. PMC 8740705. PMID 34969837.
  165. ^ Hu, Shu; Li, Yuezun; Lyu, Siwei (12 October 2020). "Exposing GAN-Generated Faces Using Inconsistent Corneal Specular Highlights". arXiv:2009.11924 [cs.CV].
  166. ^ Boháček, M; Farid, H (29 November 2022). "Protecting world leaders against deep fakes using facial, gestural, and vocal mannerisms". Proceedings of the National Academy of Sciences of the United States of America. 119 (48): e2216035119. Bibcode:2022PNAS..11916035B. doi:10.1073/pnas.2216035119. PMC 9860138. PMID 36417442.
  167. ^ a b "Google Scholar". scholar.google.com. Retrieved 30 April 2022.
  168. ^ a b "Two-branch recurrent network for isolating deepfakes in videos". scholar.google.com. Retrieved 30 April 2022.
  169. ^ a b c "The Blockchain Solution to Our Deepfake Problems". Wired. ISSN 1059-1028. Archived from the original on 7 November 2019. Retrieved 9 November 2019.
  170. ^ a b Leetaru, Kalev. "Why Digital Signatures Won't Prevent Deep Fakes But Will Help Repressive Governments". Forbes. Archived from the original on 14 April 2021. Retrieved 17 February 2021.
  171. ^ "To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways". Metaphysic. 8 August 2022. Retrieved 24 August 2022.
  172. ^ a b Cole, Samantha (11 June 2019). "This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies". Vice. Archived from the original on 12 October 2019. Retrieved 9 November 2019.
  173. ^ a b c Cole, Samantha (6 February 2018). "Pornhub Is Banning AI-Generated Fake Porn Videos, Says They're Nonconsensual". Vice. Archived from the original on 1 November 2019. Retrieved 9 November 2019.
  174. ^ a b Cole, Samantha (31 January 2018). "AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host". Vice. Archived from the original on 1 November 2019. Retrieved 18 November 2019.
  175. ^ a b Cole, Samantha (6 February 2018). "Twitter Is the Latest Platform to Ban AI-Generated Porn". Vice. Archived from the original on 1 November 2019. Retrieved 8 November 2019.
  176. ^ Cole, Samantha (11 December 2017). "AI-Assisted Fake Porn Is Here and We're All Fucked". Vice. Archived from the original on 7 September 2019. Retrieved 19 December 2018.
  177. ^ Böhm, Markus (7 February 2018). ""Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor". Spiegel Online. Archived from the original on 23 September 2019. Retrieved 9 November 2019.
  178. ^ barbara.wimmer (8 February 2018). "Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos". futurezone.at (in German). Archived from the original on 8 February 2018. Retrieved 9 November 2019.
  179. ^ "Deepfakes: Auch Reddit verbannt Fake-Porn". heise online (in German). 8 February 2018. Archived from the original on 10 April 2019. Retrieved 9 November 2019.
  180. ^ "Reddit verbannt Deepfake-Pornos - derStandard.de". DER STANDARD (in Austrian German). Archived from the original on 9 November 2019. Retrieved 9 November 2019.
  181. ^ Robertson, Adi (7 February 2018). "Reddit bans 'deepfakes' AI porn communities". The Verge. Archived from the original on 24 September 2019. Retrieved 9 November 2019.
  182. ^ Price, Rob (27 January 2018). "Discord just shut down a chat group dedicated to sharing porn videos edited with AI to include celebrities". Business Insider Australia. Archived from the original on 15 December 2019. Retrieved 28 November 2019.
  183. ^ "Twitter bans 'deepfake' AI-generated porn". Engadget. 20 July 2019. Archived from the original on 15 December 2019. Retrieved 28 November 2019.
  184. ^ a b Harrell, Drew. "Fake-porn videos are being weaponized to harass and humiliate women: 'Everybody is a potential target'". The Washington Post. Archived from the original on 2 January 2019. Retrieved 1 January 2019.
  185. ^ Beres, Damon; Gilmer, Marcus (2 February 2018). "A guide to 'deepfakes,' the internet's latest moral crisis". Mashable. Archived from the original on 9 December 2019. Retrieved 9 November 2019.
  186. ^ a b "Facebook has promised to leave up a deepfake video of Mark Zuckerberg". MIT Technology Review. Archived from the original on 16 October 2019. Retrieved 9 November 2019.
  187. ^ 앤더슨, 마틴 (2022).2022년 5월 30일 Wayback Machine, Unite.ai 에서 2022년 5월 28일 GoogleCollab에서 딥페이크의 교육을 금지했습니다.
  188. ^ 마이버그, 엠마누엘 (2022)2022년 5월 17일 웨이백 머신에서 2022년 5월 30일에 보관된 '딥탐 크루즈'에서 악의적인 딥페이크 포르노이동하려면 두 의 클릭이 필요합니다.
  189. ^ Sasse, Ben (21 December 2018). "S.3805 - 115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018". www.congress.gov. Archived from the original on 16 October 2019. Retrieved 16 October 2019.
  190. ^ "'Deepfake' revenge porn is now illegal in Virginia". TechCrunch. July 2019. Archived from the original on 14 July 2021. Retrieved 16 October 2019.
  191. ^ Iacono Brown, Nina (15 July 2019). "Congress Wants to Solve Deepfakes by 2020. That Should Worry Us". Slate Magazine. Archived from the original on 16 October 2019. Retrieved 16 October 2019.
  192. ^ a b "Bill Text - AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action". leginfo.legislature.ca.gov. Archived from the original on 17 November 2019. Retrieved 9 November 2019.
  193. ^ a b "Bill Text - AB-730 Elections: deceptive audio or visual media". leginfo.legislature.ca.gov. Archived from the original on 31 October 2019. Retrieved 9 November 2019.
  194. ^ "China seeks to root out fake news and deepfakes with new online content rules". Reuters.com. Reuters. 29 November 2019. Archived from the original on 17 December 2019. Retrieved 17 December 2019.
  195. ^ Statt, Nick (29 November 2019). "China makes it a criminal offense to publish deepfakes or fake news without disclosure". The Verge. Archived from the original on 22 December 2019. Retrieved 17 December 2019.
  196. ^ 업스커트 법안에 '딥페이크' 포르노 금지 포함 요구 2018년 6월 21일 웨이백 머신가디언에서 보관
  197. ^ [2]Wayback Machine에서 2019년 11월 22일 보관 18페이지 참조
  198. ^ Bogart, Nicole (10 September 2019). "How deepfakes could impact the 2019 Canadian election". Federal Election 2019. Archived from the original on 27 January 2020. Retrieved 28 January 2020.
  199. ^ "What Can The Law Do About Deepfake". mcmillan.ca. Archived from the original on 7 December 2019. Retrieved 28 January 2020.
  200. ^ Venkatasubbbu, Satish (27 June 2023). "How deepfakes are used to scam You & Me? Current trends on detection using AI & legal regulations worldwide". cybermithra.in. Retrieved 3 July 2023.
  201. ^ "The US military is funding an effort to catch deepfakes and other AI trickery". MIT Technology Review. Archived from the original on 1 November 2020. Retrieved 7 October 2020.
  202. ^ a b "DARPA Is Taking On the Deepfake Problem". Nextgov.com. 6 August 2019. Archived from the original on 28 October 2020. Retrieved 7 October 2020.
  203. ^ "Media Forensics". www.darpa.mil. Archived from the original on 29 October 2020. Retrieved 7 October 2020.
  204. ^ "Picaper". Internet Speculative Fiction Database. Archived from the original on 29 July 2020. Retrieved 9 July 2019.
  205. ^ Kerr, Philip (2010). A Philosophical Investigation. National Geographic Books. ISBN 978-0143117537.
  206. ^ Bernal, Natasha (8 October 2019). "The disturbing truth behind The Capture and real life deepfakes". The Telegraph. Archived from the original on 14 October 2019. Retrieved 24 October 2019.
  207. ^ Crawley, Peter (5 September 2019). "The Capture: A BBC thriller of surveillance, distortion and duplicity". The Irish Times. Archived from the original on 9 September 2019. Retrieved 24 October 2019.
  208. ^ "ESPN Films Latest 30 for 30 Documentary Al Davis vs. The NFL to Premiere February 4" (Press release). ESPN. 15 January 2021. Archived from the original on 6 February 2021. Retrieved 5 February 2021.
  209. ^ Sprung, Shlomo (1 February 2021). "ESPN Documentary 'Al Davis Vs The NFL' Uses Deepfake Technology To Bring Late Raiders Owner Back To Life". Forbes. Archived from the original on 14 April 2021. Retrieved 4 February 2021.
  210. ^ "Hudson and Rex".
  211. ^ a b Wood, Mikael (9 May 2022). "Watch Kendrick Lamar morph into O.J., Kanye, Kobe, Nipsey Hussle in new video". Los Angeles Times. Retrieved 10 May 2022.
  212. ^ Aloe Blacc - Wake Me Up (Universal Language Mix), retrieved 24 August 2022
  213. ^ "Watch Aloe Blacc Perform "Wake Me Up" in 3 Languages to Honor Avicii Using Respeecher AI Translation". Voicebot.ai. 5 May 2022. Retrieved 24 August 2022.
  214. ^ Lees, Dominic (27 January 2023). "Deep Fake Neighbour Wars: ITV's comedy shows how AI can transform popular culture". The Conversation. Retrieved 3 July 2023.
  215. ^ Taylor, Derrick Bryson (2 October 2023). "Tom Hanks Warns of Dental Ad Using A.I. Version of Him". The New York Times. ISSN 0362-4331. Retrieved 12 October 2023.

외부 링크