테일러 스위프트 딥페이크 포르노 논란

Taylor Swift deepfake pornography controversy

2024년 1월 말 소셜 미디어 플랫폼 4chan과 X에서 성적으로 노골적인 AI가 생성한 미국 음악가 Taylor Swift의 딥페이크 이미지가 확산되었습니다. 이 이미지는 처음에 Microsoft Designer의 텍스트-이미지 모델에 내장된 검열에 도전하기 위한 수단으로 만들어진 것으로 알려졌습니다.[1] 성적이거나 폭력적인 성격의 스위프트의 여러 인공 이미지가 빠르게 퍼졌고[2], 한 이미지는 최종 제거되기 전에 4,700만 번 이상 목격된 것으로 보고되었습니다.[3] 이러한 이미지는 성폭력 반대 옹호 단체, 미국 정치인, 스위프트의 팬, 마이크로소프트 CEO 사티아 나델라[4] 등의 반응을 불러일으켰고, 스위프트의 영향으로 딥페이크 포르노 제작과 관련한 새로운 법안이 나올 수 있다는 주장이 제기되었습니다.

배경

미국의 음악가 테일러 스위프트는 그녀의 경력 내내 여성혐오와 무례한 수치심의 대상이었다고 언론인들에 의해 보도되었습니다.[5][6] 미국의 기술 회사 마이크로소프트는 사용자가 안전하지 않거나 반대하기 쉬운 콘텐츠를 생성하는 것을 방지하기 위해 검열 안전 장치를 사용하는 마이크로소프트 디자이너와 빙 이미지 크리에이터라고 불리는 인공지능 이미지 크리에이터를 제공합니다. 텔레그램 그룹의 멤버들은 이러한 검열을 연예인들의 창의적인 포르노 이미지로 우회하는 방법에 대해 논의했습니다.[7]

반응 및 반응

스위프트의 딥페이크 이미지는 즉시 논란과 분노의 원천이 되었고, 강간, 학대 및 근친상간 전국 네트워크 및 SAG-AFTRA로부터 비난을 받았습니다. 스위프트가 참여하기 전까지 인공지능이 생성한 미디어에 대한 문제를 추적해온 후자의 그룹은 이미지를 "거친 것이고, 해롭고, 깊은 우려가 있다"고 생각했습니다.[8] 회사의 제품이 이러한 이미지를 만드는 데 사용되는 것으로 믿어졌던 마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 이번 논란에 대해 "놀랍고 끔찍하다"고 반응하며 "온라인 세상이 안전한 세상일 때 우리 모두가 이익을 얻는다"는 자신의 신념을 더욱 밝혔습니다.

정치인

카린 장 피에르 백악관 대변인은 위조 이미지에 대해 "경고한다"며 우려를 표명하고 잘못된 정보의 유포를 억제하기 위한 소셜 미디어 플랫폼의 의무를 강조했습니다. 미국 정치권의 몇몇 의원들은 AI가 만든 음란물에 대한 입법을 요구했습니다.[9] 그 달 말, 미국 상원의원 딕 더빈, 린지 그레이엄, 에이미 클로부차, 조시 홀리에 의해 초당적인 법안이 발의되었습니다. 이 법안은 피해자들이 배포 의도를 가지고 "디지털 위조"를 생산하거나 소지한 사람들 또는 자료가 동의 없이 만들어진 것을 알고 받은 사람들을 고소할 수 있도록 허용할 것입니다.[10] 유럽 연합은 2024년 2월에 딥페이크 포르노와 온라인 괴롭힘 및 복수 음란물을 2027년 중반까지 범죄화하는 유사한 법안에 대한 계약을 체결했습니다.[11]

소셜 미디어 플랫폼

X는 자신의 웹사이트에 이러한 이미지를 공유하는 것에 대해 확산에 참여한 계정을 중단하겠다고 주장했습니다. 그럼에도 불구하고, 사진들은 X의 계정들 사이에서 계속 공유되었고, 인스타그램과 레딧을 포함한 다른 플랫폼들로 퍼져나갔습니다.[12] X는 '합성·조작 미디어 정책'을 시행해 실효성에 대한 비판을 받아왔습니다. 그들은 2024년 1월 27일 스위프트의 이름 검색을 잠시 차단했다가 이틀 후에 다시 검색했습니다.

스위피티즈

"Swifties"로 알려진 테일러 스위프트(Taylor Swift)의 깊은 충성도를 가진 팬층은 이러한 이미지의 확산을 완화하기 위해 노력함으로써 이러한 이미지의 유통에 대응했습니다.[13][14] Swifties는 해시태그 #ProtectTaylorSwift를 눌러 X에서 유행시켰고, 그녀의 라이브 공연에 대한 더 긍정적인 이미지와 비디오로 이미지와 관련된 다른 해시태그들을 넘쳐나게 했습니다.[15]

문화적 의미

딥페이크 포르노는 여전히 큰 논란을 불러일으키고 있으며 아리아나 그란데와 빌리 아일리시와 같은 다른 유명인부터 대부분 여성인 일반인까지 모든 사람들에게 영향을 미쳤습니다. 언론인들은 스위프트와 같은 저명한 공인이 AI가 제작한 음란물 유포에 참여하면 이 문제에 대한 대중의 인식과 정치 개혁을 가져올 수 있다고 의견을 냈습니다.[16]

참고문헌

  1. ^ Weatherbed, Jess. "Trolls have flooded X with graphic Taylor Swift AI fakes". The Verge. Retrieved 7 February 2024.
  2. ^ "Taylor Swift deepfakes spread online, sparking outrage". CBS News. Retrieved 7 February 2024.
  3. ^ Wilkes, Emma. "Taylor Swift deepfakes spark calls for new legislation". NME. Retrieved 7 February 2024.
  4. ^ Pilley, Max. "Microsoft CEO: Taylor Swift AI deepfakes are "alarming and terrible"". NME.
  5. ^ Wahi, Sukriti (March 3, 2021). "Every Time Taylor Swift Perfectly Shut Down A Sexist Interview Question". Elle. Archived from the original on April 22, 2022. Retrieved November 4, 2021.
  6. ^ 오류 인용: 명명된 참조 Davis-2018 호출되었지만 정의되지 않았습니다(도움말 페이지 참조).
  7. ^ Belanger, Ashley. "Toxic Telegram group produced X's X-rated fake AI Taylor Swift images, report says". ARS Technica. Retrieved 7 February 2024.
  8. ^ "SAG-AFTRA Slams Explicit Taylor Swift AI Images: 'Upsetting, Harmful' and 'Must Be Made Illegal'". Variety.
  9. ^ Beaumont-Thomas, Ben. "Taylor Swift deepfake pornography sparks renewed calls for US legislation". The Guardian. Retrieved 7 February 2024.
  10. ^ Montgomery, Blake (January 31, 2024). "Taylor Swift AI images prompt US bill to tackle nonconsensual, sexual deepfakes". The Guardian. Retrieved January 31, 2024.
  11. ^ Goujard, Clothilde. "Taylor Swift deepfakes nudge EU to get real about AI". Politico. Retrieved 7 February 2024.
  12. ^ Stokel-Walker, Chris (January 25, 2024). "The explicit AI-created images of Taylor Swift flooding the internet highlight a major problem with generative AI". Fast Company. Archived from the original on January 26, 2024. Retrieved January 26, 2024.
  13. ^ Pattison, Kate. "How did Taylor Swift get so popular? She never goes out of style". The Conversation. Retrieved 7 February 2024.
  14. ^ "TAYLOR SWIFT X-RATED AI PICS FLOOD INTERNET ... Fans Outraged & Disgusted". TMZ.
  15. ^ Rosenzweig-Ziff, Dan. "AI deepfakes of Taylor Swift spread on X. Here's what to know". The Washington Post. Retrieved 7 February 2024.
  16. ^ Volkering, Sam. "The Taylor Swift Deepfake Scandal Will Change AI as We Know It". Brownstone Research. Retrieved 7 February 2024.