인공지능 탐지 소프트웨어

Artificial intelligence detection software

인공지능(AI) 감지 소프트웨어는 텍스트, 이미지 비디오 또는 오디오가 인간 또는 인공지능에 의해 생성되었는지 여부를 보여주는 것을 목적으로 합니다.

2023년 기준으로 텍스트가 인공지능에 의해 만들어졌는지 탐지한다고 주장하는 소프트웨어가 주요 사례로, 대학이나 대학에서 학생 표절을 막기 위해 사용되기도 합니다.이 사용법은 사용된 소프트웨어를 신뢰할 수 없으며 교사와 교수가 잘못 사용할 수 있기 때문에 논란이 있습니다.

텍스트 탐지

텍스트의 경우, 이것은 일반적으로 텍스트가 AI에 의해 생성되었음을 나타내는 징후로 단어의 반복을 감지함으로써 표절 혐의를 방지하기 위해 수행됩니다(AI 환각 포함).그것들은 종종 선생님들이 학생들을 표시하는데, 보통 임시로 사용합니다.ChatGPT 및 유사한 AI 텍스트 생성 소프트웨어 출시 이후 많은 교육 기관이 학생의 [1]AI 사용에 대한 정책을 발표했습니다.AI 텍스트 탐지 소프트웨어는 온라인 검색 [2]엔진뿐만 아니라 구직자를 평가하는 사람들도 사용합니다.

현재 탐지기는 신뢰할 수 없으며, 인간이 AI에서[3][4][5] 발생한 작업을 잘못 표시한 반면 다른 [6]경우에는 AI에서 생성된 작업을 탐지하지 못했습니다.MIT Technology Review는 이 기술이 "인간에 의해 약간 재배열되고 패러프레이징 [7]도구에 의해 난독화된 ChatGPT 생성 텍스트를 수집하는 데 어려움을 겪었습니다"라고 말했습니다.AI 텍스트 감지 소프트웨어는 [2]영어를 모국어로 사용하지 않는 사람을 차별하는 것으로 나타났습니다.

2023년 5월, 텍사스 A&M 대학-Commerce의 한 교수는 ChatGPT를 사용하여 학생들의 콘텐츠가 작성되었는지 여부를 탐지했으며, ChatGPT는 이를 사실이라고 말했습니다.이와 같이, 그는 ChatGPT가 인공지능이 생성한 [8]글을 감지할 수 없음에도 불구하고 수업에 실패할 것이라고 위협했습니다.이 문제 때문에 졸업을 막는 학생은 없었으며,[9] 한 명을 제외한 모든 학생(소프트웨어 사용을 인정한 학생)은 콘텐츠에 ChatGPT를 사용하지 않은 것으로 밝혀졌습니다.2023년 4월, 캠브리지 대학과 러셀 그룹의 다른 대학 구성원들은 신뢰할 [10]수 없다고 주장하며 터니틴의 AI 텍스트 탐지 도구를 사용하지 않기로 결정했습니다.

이미지, 비디오 및 오디오 감지

AI가 생성한 이미지(예: Midjourney에서 발생한 이미지)를 감지하기 위해 다수의 AI 이미지 감지 소프트웨어가 존재합니다.그들은 믿을 [11]수 없습니다.다른 사람들은 비디오와 오디오 딥페이크를 식별한다고 주장하지만, 이 기술 또한 [12]신뢰할 수 없습니다.

참고 항목

레퍼런스

  1. ^ Hern, Alex (31 December 2022). "AI-assisted plagiarism? ChatGPT bot says it has an answer for that". The Guardian. Retrieved 11 July 2023.
  2. ^ a b Sample, Ian (10 July 2023). "Programs to detect AI discriminate against non-native English speakers, shows study". The Guardian. Retrieved 10 July 2023.
  3. ^ Fowler, Geoffrey A. (2 June 2023). "Detecting AI may be impossible. That's a big problem for teachers". The Washington Post. Retrieved 10 July 2023.
  4. ^ Tangermann, Victor (9 January 2023). "There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate". Futurism. Retrieved 10 July 2023.
  5. ^ "We tested a new ChatGPT-detector for teachers. It flagged an innocent student". The Washington Post. 1 April 2023. Retrieved 10 July 2023.
  6. ^ Taylor, Josh (1 February 2023). "ChatGPT maker OpenAI releases 'not fully reliable' tool to detect AI generated content". The Guardian. Retrieved 11 July 2023.
  7. ^ Williams, Rhiannon (7 July 2023). "AI-text detection tools are really easy to fool". MIT Technology Review. Retrieved 10 July 2023.
  8. ^ Verma, Prashnu (18 May 2023). "A professor accused his class of using ChatGPT, putting diplomas in jeopardy". The Washington Post. Retrieved 10 July 2023.
  9. ^ "College instructor put on blast for accusing students of using ChatGPT". NBC News. 18 May 2023. Retrieved 10 July 2023.
  10. ^ Staton, Bethan (3 April 2023). "Universities express doubt over tool to detect AI-powered plagiarism". Financial Times. Retrieved 10 July 2023.
  11. ^ Thompson, Stuart A.; Hsu, Tiffany (28 June 2023). "How Easy Is It to Fool A.I.-Detection Tools?". The New York Times. Retrieved 10 July 2023.
  12. ^ Hsu, Tiffany; Myers, Steven Lee (18 May 2023). "Another Side of the A.I. Boom: Detecting What A.I. Makes". The New York Times. Retrieved 10 July 2023.