GPTZero

GPTZero
GPTZero
개발자에드워드 티안
알렉스 쿠이
야잔 미미[1]
초도출시2023년 1월 3일, 13개월 전(2023-01-03)
로 적음파이썬
플랫폼클라우드 컴퓨팅
웹사이트gptzero.me

GPTZero는 대규모 언어 모델에서 생성된 텍스트와 같이 인공적으로 생성된 텍스트를 식별하기 위해 개발된 인공 지능 감지 소프트웨어입니다.[2][3][4][5]

GPTZero는 학업 부정직을 억제하기 위한 노력으로 긍정적인 보도를 받았지만, 허위에 대한 경향은 특히 위험이 높은 학업 환경에서 주요 비판의 원인이 되었습니다.

역사

GPTZero는 프린스턴 대학 학부생인 에드워드 티안(Edward Tian)이 개발한 것으로, AI가 학술 표절에 사용하는 것에 대한 우려에 따라 2023년 1월 온라인으로 출시되었습니다.[6][7] GPTZero는 종자 자금으로 350만 달러 이상을 모금했습니다.[8][9] GPTZero는 출시 첫 주에 3만 번의 사용을 경험했고, 이로 인해 충돌이 발생했습니다. 이는 웹 앱 회사인 스트림릿(Streamlit)이 지원하며, 스트림릿은 이에 대응하여 더 많은 서버 리소스를 할당했습니다.[10]

메카니즘

GPTZero는 난감함과 버스트성을 의미하는 특성을 사용하여 한 구절이 봇에 의해 작성되었는지 여부를 결정합니다.[11] 회사 측에 따르면 당혹감이란 문장 내 텍스트가 얼마나 무작위적인지, 문장 구성 방식이 이례적인지, 응용 프로그램에 '놀랍다'는 것입니다. 언어 모델에 의존하며, 그러한 모델이 많을수록 사람이 텍스트를 쓰지 않을 가능성이 높아집니다.[12] 이와 대조적으로 버스트성은 문장을 서로 비교하여 유사성을 결정합니다. 인간 텍스트는 더 불연속적이며, 이는 인간이 AI보다 더 많은 문장 변형으로 글을 쓰는 경향이 있음을 의미합니다.[7]

뉴스 웹사이트인 Ars Technica는 인간은 여전히 매우 규칙적인 방식으로 문장을 쓸 수 있으며, 이는 거짓 양성을 초래한다고 논평했습니다. 작가 벤저 에드워즈(Benj Edwards)는 이어 당혹감 점수는 인공지능에 대해 "놀라운" 것과 관련이 있을 뿐이며, 이는 미국 헌법과 같이 매우 일반적인 텍스트가 인공지능 생성으로 표시되는 사례로 이어졌다고 말했습니다.[13]

사용 사례 및 응용 프로그램

학계에서는 GPTZero를 사용하여 AI가 생성한 콘텐츠에 대한 우려를 표절로 해결하려고 시도했습니다.[14][12][11] 프린스턴대를 포함한 교육기관들은 학문적 환경에서 인공지능이 생성한 콘텐츠를 퇴치하기 위해 GPTZero를 사용하는 방안에 대해 의견이 엇갈리고 있습니다.[7][15] 2023년 10월, GPTZero는 미국 교사 연맹(American Federation of Teachers)과 파트너십을 맺었습니다.[16]

효능

2023년 3월 메릴랜드 대학의 컴퓨터 과학자 비누 산카르 사다시반, 아우논 쿠마르, 스리람 발라수브라마니안, 웬샤오 왕, 소힐 페이지는 "AI 생성 텍스트를 안정적으로 탐지할 수 있는가?"[17]라는 논문에서 여러 AI 텍스트 탐지기가 실제 시나리오에서 신뢰할 수 없다는 것을 경험적, 이론적으로 입증했습니다.[18][19]

기술 웹사이트인 Futurism은 이 도구를 시험해 보았고, 오류율에 근거하여 이 도구에 의존하는 교사들은 "거의 20%에 가까운 [순수한 학생들]의 학업 위법 행위를 거짓으로 고발"할 것이라고 말했습니다.[20]

워싱턴 포스트는 GPTZero가 거짓 양성으로 고통 받고 있다고 지적하면서 "작은 "거짓 양성" 오류율도 일부 학생들이 [학업적 위법 행위로] 잘못 기소될 수 있다는 것을 의미한다"고 강조했습니다.[21]

외부 링크

  • Cassidy, Caitlin (January 11, 2023). "College student claims app can detect essays written by chatbot ChatGPT". The Guardian.

참고 항목

참고문헌

  1. ^ "Meet the Etobicoke-born inventor of the ChatGPT detector". Toronto Life.
  2. ^ "GPTZERO: A New Tool to Detect AI-Generated Content in ChatGPT". The Washington Post.
  3. ^ "How apps like GPTZero detect content written by A.I." CNBC. July 24, 2023. Retrieved September 21, 2023.
  4. ^ "GPTZero App Seeks to Thwart AI Plagiarism in Schools, Online Media". Bloomberg.com. May 8, 2023. Retrieved October 21, 2023.
  5. ^ "American Federation of Teachers partners with AI identification platform, GPTZero". CBS News. October 17, 2023. Retrieved October 21, 2023.
  6. ^ "How a 23-year-old college student built one of the leading AI detection tools". Business Insider. Retrieved September 21, 2023.
  7. ^ a b c "Edward Tian's GPTZERO Software Aims to Detect AI-Generated Plagiarism". The Daily Princetonian.
  8. ^ "This AI detection tool raised $3.5 million to check the internet for computer-generated work". Fast Company. 2023.
  9. ^ Shrivastava, Rashi. "With Seed Funding Secured, AI Detection Tool GPTZero Launches New Browser Plugin". Forbes. Retrieved May 17, 2023.
  10. ^ "GPTZERO: A New AI Detector Aims to Combat ChatGPT Plagiarism". NPR. January 9, 2023.
  11. ^ a b "What is GPTZERO? The ChatGPT Detection Tool Explained". Tech Learning. January 27, 2023.
  12. ^ a b "AI Detector for Educators: What is GPTZERO?". Jumpstart Magazine. March 2, 2023.
  13. ^ Edwards, Benj (July 14, 2023). "Why AI detectors think the US Constitution was written by AI". Ars Technica. Retrieved December 14, 2023.
  14. ^ Tribune.com.pk (February 22, 2023). "GPTZero: A ChatGPT Detection Tool". The Express Tribune.
  15. ^ "GPTZero to help teachers deal with ChatGPT-generated student essays". The Indian Express. January 12, 2023. Retrieved September 21, 2023.
  16. ^ "US Teachers Union Bans ChatGPT and Deploys GPTZero To Detect Cheating". MobileAppAaily. Retrieved October 21, 2023.
  17. ^ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi, Soheil (March 17, 2023). "Can AI-Generated Text be Reliably Detected?". arXiv:2303.11156 [cs.CL].
  18. ^ Knibbs, Kate. "Researchers Tested AI Watermarks—and Broke All of Them". Wired. ISSN 1059-1028. Retrieved October 21, 2023.
  19. ^ "No reliable way to detect AI-generated text, boffins sigh". The Register. March 21, 2023. Retrieved September 25, 2023.
  20. ^ "There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate". Futurism. Retrieved October 21, 2023.
  21. ^ Fowler, Geoffrey (August 14, 2023). "What to do when you're accused of AI cheating". The Washington Post. Retrieved October 20, 2023.