Fawkes(이미지 클로킹 소프트웨어)

Fawkes (image cloaking software)
https://en.wikipedia.org/wiki/Facial_recognition_system#Techniques_for_face_recognition
얼굴 인식은 얼굴의 벡터 그래픽 이미지로 렌더링되는 얼굴 특징의 고유 차원을 정확히 파악함으로써 작동합니다.

Fawkes는 시카고 대학의 SAND(보안, 알고리즘, 네트워킹 및 데이터) 연구소에서 만든 얼굴 이미지 클로킹 소프트웨어입니다.[1]독립 실행형 파일로 제공되는 무료 도구입니다.[2]그 소프트웨어는 이미지가 얼굴 인식 소프트웨어에 의해 인식되고 매칭되는 것을 방지하기 위해 인공지능을 사용하여 이미지에 작은 변화를 만들어냅니다.[3]Fawkes 프로그램의 목표는 개인이 대규모 데이터 수집으로부터 자신의 프라이버시를 보호할 수 있도록 하는 것입니다.2022년 5월 기준으로 포크스 v1.0은 840,000 다운로드를 돌파했습니다.[4]결국 SAND Laboratory는 부당한 안면 인식 소프트웨어와 싸우기 위해 소프트웨어를 더 큰 규모로 구현하기를 희망합니다.[5]

역사

Fawkes 프로그램은 역사적 인물 Guy Fawkes로부터 영감을 얻은 Vendetta의 영화와 만화 V에 나오는 허구적인 주인공의 이름을 따서 지어졌습니다.[6]Fawkes 제안은 2020년 8월 USENIX 보안 컨퍼런스에서 처음 발표되었으며 승인을 받았으며 얼마 지나지 않아 발표되었습니다.가장 최근에 다운로드 가능한 버전인 포크스 v1.0은 2021년 4월에 출시되었으며 2022년에 여전히 업데이트되고 있습니다.[4]창립팀은 시카고 대학의 박사과정 학생인 에밀리 벵거와 숀 샨이 이끌고 있습니다.자윤 장(Jiayun Zhang)과 후이잉 리(Huiying Li)가 교수 자문인 Ben Zhao와 Heather Zheng과 함께 추가 지원하여 소프트웨어를 개발하는 데 기여했습니다.[7]연구팀은 특히 클리어워터 AI와 같은 회사에서 수행하는 비합의적인 데이터 수집을 포크스를 만든 주요 영감으로 꼽고 있습니다.[8]

기술

Fawkes가 사용하는 방법은 적대적 기계 학습과 유사한 것으로 식별될 수 있습니다.이 방법은 이미 변경된 이미지를 사용하여 얼굴 인식 소프트웨어를 훈련합니다.따라서 소프트웨어가 동일한 이미지로 인식하지 못하기 때문에 변경된 이미지와 실제 이미지를 일치시킬 수 없습니다.Fawkes는 또한 특정 딥 러닝 모델을 훈련하는 데 사용되는 데이터 세트를 변경하는 데이터 중독 공격을 사용합니다.Fawkes는 클린 라벨 공격과 모델 손상 공격이라는 두 가지 유형의 데이터 피독 기술을 활용합니다.Fawkes의 창작자들은 시빌 이미지를 사용하면 인식 소프트웨어에 대한 소프트웨어의 효과를 높일 수 있음을 확인했습니다.Sybil 이미지는 자신이 속한 사람과 일치하지 않는 이미지입니다.이것은 얼굴 인식 소프트웨어를 혼란스럽게 하고 잘못된 인식으로 이어지게 하여 이미지 클로킹의 효과도 돕습니다.개인 정보 보호 기계 학습은 Fawkes 소프트웨어와 유사한 기술을 사용하지만 데이터 세트의 정보를 개인 정보로 유지하는 데 도움이 되는 차별적 개인 모델 교육을 선택합니다.[3]

적용들

Fawkes 이미지 클로킹은 매일 사용되는 이미지와 앱에서 사용할 수 있습니다.하지만 안면 인식 소프트웨어가 활용할 수 있는 은폐 및 은폐되지 않은 이미지가 있으면 소프트웨어의 효율성이 떨어집니다.이미지 클로킹 소프트웨어는 고성능 안면인식 소프트웨어에서 다양한 결과로 테스트되었습니다.[3]포크스와 비슷한 얼굴 가림 소프트웨어는 로우키(LowKey)라고 불립니다.로우키(LowKey)는 시각적 수준의 이미지도 변경하지만 포크스(Fawkes) 소프트웨어와 비교하면 이러한 변경 사항이 훨씬 더 눈에 띕니다.[2]

참고 항목

적대적 머신 러닝

안면인식시스템

USENIX

참고문헌

  1. ^ James Vinvent (4 August 2020). "Cloak your photos with this AI privacy tool to fool facial recognition". The Verge. Retrieved 18 May 2021.
  2. ^ a b 레드포드, B 2021, 생체 프라이버시를 위한 자동화된 얼굴 인식에 대한 이미지 클로킹 기술 평가, 석사 논문, 플로리다 공과대학교, 멜버른, 2022년 7월 27일, https://repository.lib.fit.edu/handle/11141/3478 .
  3. ^ a b c Shan, Shawn; Wenger, Emily; Zhang, Jiayun; Li, Huiying; Zheng, Haitao; Zhao, Ben Y. (2020-06-22). "Fawkes: Protecting Privacy against Unauthorized Deep Learning Models". arXiv:2002.08327 [cs.CR].
  4. ^ a b "Fawkes". sandlab.cs.uchicago.edu. Retrieved 2022-07-28.
  5. ^ Hill, Kashmir (2020-08-03). "This Tool Could Protect Your Photos From Facial Recognition". The New York Times. ISSN 0362-4331. Retrieved 2022-07-28.
  6. ^ Grad, Peter; Xplore, Tech. "Image cloaking tool thwarts facial recognition programs". techxplore.com. Retrieved 2022-07-28.
  7. ^ "UChicago CS Researchers Create New Protection Against Facial Recognition". Department of Computer Science. Retrieved 2022-07-28.
  8. ^ Shan, Shawn; Wenger, Emily; Zhang, Jiayun; Li, Huiying; Zheng, Haitao; Zhao, Ben Y. (2020-06-22). "Fawkes: Protecting Privacy against Unauthorized Deep Learning Models". arXiv:2002.08327 [cs.CR].
Stub icon

이 소프트웨어 기사는 스텁입니다.위키백과를 확장하면 도움을 받을 수 있습니다.

Stub icon

이 인공지능 관련 기사는 스텁입니다.위키백과를 확장하면 도움을 받을 수 있습니다.