인공지능 콘텐츠 탐지

Artificial intelligence content detection

인공지능 탐지 소프트웨어는 인공지능(AI)을 이용해 일부 콘텐츠(텍스트, 이미지, 비디오 또는 오디오)가 생성되었는지 여부를 판단하는 것을 목표로 합니다.

GPTZero와 같은 소프트웨어는 2023년 현재 인공지능에 의해 텍스트가 생성되었는지 여부를 탐지하는 소프트웨어로, 대학 및 대학에서 학생의 표절을 방지하기 위해 사용되기도 합니다.그러나 이러한 소프트웨어의 신뢰성은 논쟁의 주제이며,[1] 교육자들에 의한 AI 탐지 소프트웨어의 오용 가능성에 대한 우려가 있습니다.

텍스트 탐지

텍스트의 경우, 이는 일반적으로 텍스트가 인공지능에 의해 생성되었다는 명백한 징후로서 단어의 반복을 감지함으로써 표절 의혹을 방지하기 위해 수행됩니다(AI 환각 포함).그것들은 보통 임시로 학생들을 표시하는 선생님들에 의해 자주 사용됩니다.ChatGPT 및 유사한 AI 텍스트 생성 소프트웨어가 출시된 이후, 많은 교육 기관들은 학생들의 AI 사용을 반대하는 정책을 발표했습니다.[2]AI 텍스트 탐지 소프트웨어는 온라인 검색 엔진뿐만 아니라 입사 지원자를 평가하는 사람들에게도 사용됩니다.[3]

현재의 탐지기는 때때로 신뢰할 수 없고 사람이 작업을 AI에서[4][5][6] 비롯된 것으로 잘못 표시한 반면 다른 경우에는 AI에서 생성된 작업을 감지하지 못할 수 있습니다.[7]MIT 테크놀로지 리뷰는 이 기술이 "인간에 의해 약간 재배열되고 의역 도구에 의해 난독화된 ChatGPT 생성 텍스트를 집어내는 데 어려움을 겪었다"고 말했습니다.[8]AI 텍스트 탐지 소프트웨어는 영어를 모국어로 사용하지 않는 사람들을 차별하는 것으로 나타났습니다.[3]

캘리포니아 대학교 데이비스 출신의 두 학생은 교수들이 AI에 의해 생성된 에세이임을 표시하는 Turnitin이라는 텍스트 감지 도구로 자신들의 에세이를 스캔한 후 퇴학당할 뻔했습니다.하지만, 언론의 [9]보도와 철저한 조사 후,[10][11] 학생들은 어떠한 부정행위도 하지 않았습니다.

2023년 4월, 캠브리지 대학과 영국 러셀 그룹의 다른 구성원들은 신뢰할 수 없다는 우려를 표명한 후, 터니틴의 AI 텍스트 감지 도구를 사용하지 않기로 결정했습니다.[12]오스틴에 있는 텍사스 대학은 6개월 후에 시스템에서 손을 떼었습니다.[13]

2023년 5월, 텍사스 A&M 대학교-커머스(Commerce)의 한 교수는 ChatGPT를 사용하여 자신의 학생들의 콘텐츠가 그것에 의해 작성되었는지 여부를 탐지했는데, ChatGPT는 이것이 사실이라고 말했습니다.이처럼 그는 채팅GPT가 인공지능이 생성한 글을 감지할 수 없음에도 불구하고 수업에 실패하겠다고 위협했습니다.[14]이 문제로 인해 졸업할 수 없게 된 학생은 없었으며, (소프트웨어 사용을 인정한) 한 명을 제외한 모든 학생은 콘텐츠에 ChatGPT를 사용했다는 혐의로 무죄를 선고받았습니다.[15]

안티 텍스트 탐지

AI 텍스트 탐지를 우회하도록 설계된 소프트웨어가 있습니다.2023년 8월, Magna Gr æ시아 대학의 Taloni 등은 AI 텍스트 감지를 테스트하는 연구를 수행했습니다.이 연구는 Originality.ai 이라고 불리는 인공지능 탐지 도구를 테스트했고, 그것이 91.3%의 평균 정확도로 GPT-4를 탐지했다는 것을 발견했습니다.

그러나 이 테스트는 GPT-4 텍스트가 Undetectable.ai (텍스트 탐지를 우회하도록 설계된 도구)을 통해 처리되었을 때 AI 탐지기의 정확도가 27.8%로 크게 떨어졌다는 점에 주목했습니다.연구 결과는 Nature.com 의 Eye Journal과 ResearchGate에 게재되었습니다.

일부 전문가들은 또한 디지털 워터마킹과 같은 기술들이 위양성을 유발하기 위해 제거되거나 추가될 수 있기 때문에 효과적이지 않다고 믿고 있습니다.[23]

이미지, 비디오 및 오디오 감지

AI가 생성한 이미지(예: Midjourney 또는 DALL-E)를 검출하기 위해 알려진 AI 이미지 검출 소프트웨어가 다수 존재합니다.그들은 완전히 신뢰할 수 없습니다.[24][25]다른 사람들은 비디오와 오디오 딥페이크를 식별한다고 주장하지만, 이 기술 또한 아직 완전히 신뢰할 수 없습니다.[26]워터마킹의 효과에 대한 논란에도 불구하고 구글 딥마인드는 사람의 눈에 보이지 않는 디지털 워터마크를 영상의 픽셀에 삽입하여 동작하는 SynthID라는 검출 소프트웨어를 적극적으로 개발하고 있습니다.[27][28][29]

참고 항목

참고문헌

  1. ^ "'Don't use AI detectors for anything important,' says the author of the definitive 'AI Weirdness' blog. Her own book failed the test". Fortune. Retrieved 2023-10-21.
  2. ^ Hern, Alex (31 December 2022). "AI-assisted plagiarism? ChatGPT bot says it has an answer for that". The Guardian. Retrieved 11 July 2023.
  3. ^ a b Sample, Ian (10 July 2023). "Programs to detect AI discriminate against non-native English speakers, shows study". The Guardian. Retrieved 10 July 2023.
  4. ^ Fowler, Geoffrey A. (2 June 2023). "Detecting AI may be impossible. That's a big problem for teachers". The Washington Post. Retrieved 10 July 2023.
  5. ^ Tangermann, Victor (9 January 2023). "There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate". Futurism. Retrieved 10 July 2023.
  6. ^ "We tested a new ChatGPT-detector for teachers. It flagged an innocent student". The Washington Post. 1 April 2023. Retrieved 10 July 2023.
  7. ^ Taylor, Josh (1 February 2023). "ChatGPT maker OpenAI releases 'not fully reliable' tool to detect AI generated content". The Guardian. Retrieved 11 July 2023.
  8. ^ Williams, Rhiannon (7 July 2023). "AI-text detection tools are really easy to fool". MIT Technology Review. Retrieved 10 July 2023.
  9. ^ "AI Detection Apps Keep Falsely Accusing Students of Cheating". Futurism. Retrieved 2023-10-21.
  10. ^ Jimenez, Kayla. "Professors are using ChatGPT detector tools to accuse students of cheating. But what if the software is wrong?". USA TODAY. Retrieved 2023-10-21.
  11. ^ Klee, Miles (2023-06-06). "She Was Falsely Accused of Cheating With AI -- And She Won't Be the Last". Rolling Stone. Retrieved 2023-10-21.
  12. ^ Staton, Bethan (3 April 2023). "Universities express doubt over tool to detect AI-powered plagiarism". Financial Times. Retrieved 10 July 2023.
  13. ^ Carter, Tom. "Some universities are ditching AI detection software amid fears students could be falsely accused of cheating by using ChatGPT". Business Insider. Retrieved 2023-10-21.
  14. ^ Verma, Prashnu (18 May 2023). "A professor accused his class of using ChatGPT, putting diplomas in jeopardy". The Washington Post. Retrieved 10 July 2023.
  15. ^ "College instructor put on blast for accusing students of using ChatGPT". NBC News. 18 May 2023. Retrieved 10 July 2023.
  16. ^ Taloni, Andrea; Scorcia, Vincenzo; Giannaccare, Giuseppe (2023-08-02). "Modern threats in academia: evaluating plagiarism and artificial intelligence detection scores of ChatGPT". Eye: 1–4. doi:10.1038/s41433-023-02678-7. ISSN 1476-5454.
  17. ^ Wiggers, Kyle (2023-02-16). "Most sites claiming to catch AI-written text fail spectacularly". TechCrunch. Retrieved 2023-10-21.
  18. ^ "AI Content Checker and Plagiarism Check GPT-4 ChatGPT". originality.ai. Retrieved 2023-10-21.
  19. ^ Glover, John (2023-10-05). "New Tool's Ability to Write Undetectable AI Text Gains Traction". DailyInvestNews. Retrieved 2023-10-21.
  20. ^ Stojan, Jon. "Undetectable AI Writes Like A Human". USA TODAY. Retrieved 2023-10-21.
  21. ^ "The Truly Undetectable AI Content Writing Tool". Undetectable AI. Retrieved 2023-10-21.
  22. ^ https://www.researchgate.net/profile/Andrea-Taloni
  23. ^ Knibbs, Kate. "Researchers Tested AI Watermarks—and Broke All of Them". Wired. ISSN 1059-1028. Retrieved 2023-10-21.
  24. ^ Thompson, Stuart A.; Hsu, Tiffany (28 June 2023). "How Easy Is It to Fool A.I.-Detection Tools?". The New York Times. Retrieved 10 July 2023.
  25. ^ Rizwan, Choudhury (October 15, 2023). "Expert debunks AI tool's claim that Israel's photo is fake". Interesting Engineering. Retrieved October 22, 2023.
  26. ^ Hsu, Tiffany; Myers, Steven Lee (18 May 2023). "Another Side of the A.I. Boom: Detecting What A.I. Makes". The New York Times. Retrieved 10 July 2023.
  27. ^ "Identifying AI-generated images with SynthID". www.deepmind.com. Retrieved 2023-10-21.
  28. ^ Pierce, David (2023-08-29). "Google made a watermark for AI images that you can't edit out". The Verge. Retrieved 2023-10-21.
  29. ^ Wiggers, Kyle (2023-08-29). "DeepMind partners with Google Cloud to watermark AI-generated images". TechCrunch. Retrieved 2023-10-21.