본문으로 이동

GPTZero

위키백과, 우리 모두의 백과사전.
GPTZero
개발자에드워드 톈
알렉스 추이
야잔 미미[1]
발표일2023년 1월 3일(2년 전)(2023-01-03)
프로그래밍 언어파이썬
플랫폼클라우드 컴퓨팅
웹사이트gptzero.me[1][2]

GPTZero는 대규모 언어 모델이 생성한 텍스트와 같이 인공적으로 생성된 텍스트를 식별하기 위해 개발된 인공지능 감지 소프트웨어이다.[3][4][5][6]

GPTZero는 학업 부정행위를 방지하려는 노력으로 칭찬을 받았지만, 많은 언론 매체들은 이 도구의 오탐률을 비판했는데, 이는 학업 환경에서 특히 해로울 수 있다.[7]

역사

[편집]

GPTZero는 프린스턴 대학교 학부생인 에드워드 톈이 개발했으며, 학업 표절에서 인공지능 생성 콘텐츠 사용에 대한 우려에 대응하여 2023년 1월에 온라인으로 출시되었다.[8][2] GPTZero는 2023년 5월에 350만 달러 이상의 시드 펀딩을 유치했다고 밝혔다.[9][10]

출시 첫 주에 GPTZero는 30,000건의 사용을 기록하여 서비스 중단을 겪었다. 웹 앱 회사인 Streamlit의 지원을 받아 더 많은 서버 자원을 할당받았다.[11] 2024년 7월에는 사용자 수가 400만 명에 달했으며, 1년 전에는 100만 명이었다.[12]

2024년 여름, GPTZero는 시리즈 A 라운드 펀딩에서 1천만 달러를 유치했다.[13]

2024년 9월, GPTZero는 "AI 작성에 대한 전무한 패러다임에서 더욱 미묘한 패러다임으로 나아가려는" 노력의 일환으로 "복사/붙여넣기 기록, 편집자 수, 편집에 걸린 시간 등 쓰기 과정에 대한 데이터를 컴파일하고 공유할 수 있도록" 하는 저작권 추적 소프트웨어를 발표했다.[13]

작동 방식

[편집]

GPTZero는 퍼플렉시티와 버스티니스라는 개념을 사용하여 글이 인공지능에 의해 작성되었는지 여부를 판단하려고 시도한다.[14] 회사에 따르면, 퍼플렉시티는 문장 내 텍스트의 무작위성 정도와 문장 구성 방식이 해당 응용 프로그램에 대해 특이하거나 "놀라운"지 여부를 나타낸다. 언어 모델에게 더 혼란스럽거나 익숙하지 않은 언어를 가진 텍스트, 즉 모델을 "당황하게" 할 가능성이 있는 텍스트는 사람이 작성했을 가능성이 더 높은 것으로 간주된다.[15] 이와 대조적으로, 버스티니스는 문장들을 서로 비교하여 유사성을 판단한다. 인간의 텍스트는 더 불연속적이며, 이는 인간이 인공지능보다 더 다양한 문장으로 글을 쓰는 경향이 있음을 의미한다.[2]

사용 사례

[편집]

학계에서는 표절에 대한 인공지능 생성 콘텐츠의 우려를 해결하기 위해 GPTZero를 사용하려고 시도했다.[16][15][14] 프린스턴 대학교를 포함한 교육 기관들은 학업 환경에서 인공지능 생성 콘텐츠에 맞서기 위해 GPTZero 사용을 논의했으며, 의견은 엇갈렸다.[2][17] 2023년 10월, GPTZero는 미국교사연맹과 협력했다.[18]

2024년까지 톈은 GPTZero가 "채용 관리자, 채용 및 자기소개서 분석에서 많은 채택을 받았다"고 보고했다.[13]

효능

[편집]

2023년 3월 "AI 생성 텍스트를 안정적으로 감지할 수 있는가?"라는 제목의 논문에서,[19] 메릴랜드 대학교의 컴퓨터 과학자 비누 산카르 사다시반, 아우논 쿠마르, 스리람 발라수브라마니안, 왕원샤오, 소헤일 페이치는 여러 인공지능 텍스트 감지기가 실제 시나리오에서 신뢰할 수 없음을 경험적 및 이론적으로 입증했다.[20][21]

기술 웹사이트 퓨처리즘은 이 도구를 테스트한 후 "결과는 인상적"이지만, 오류율을 고려할 때 이 도구에 의존하는 교사들은 "무고한 학생들의 거의 20%를 학업 부정행위로 거짓 비난하게 될 것"이라고 말했다.[22]

워싱턴 포스트는 2023년 8월 GPTZero가 오탐에 시달린다고 언급하며, "작은 '오탐' 오류율조차도 일부 학생들이 [학업 부정행위로] 잘못 비난받을 수 있음을 의미한다"고 강조했다.[7]

뉴스 웹사이트 아르스 테크니카는 사람이 여전히 매우 규칙적인 방식으로 문장을 쓸 수 있어 오탐이 발생할 수 있다고 논평했다. 작가 벤지 에드워즈는 퍼플렉시티 점수가 인공지능에게 "놀라운" 것에만 초점을 맞추기 때문에 미국 헌법과 같은 매우 흔한 텍스트도 인공지능이 생성했을 가능성이 높은 것으로 분류되는 경우가 발생한다고 덧붙였다.[23]

같이 보기

[편집]

각주

[편집]
  1. ↑ 가 나 “Meet the Etobicoke-born inventor of the ChatGPT detector”. 《Toronto Life》. 2023년 2월 16일. 2024년 4월 24일에 원본 문서에서 보존된 문서. 
  2. ↑ 가 나 다 라 “Edward Tian's GPTZERO Software Aims to Detect AI-Generated Plagiarism”. 《The Daily Princetonian》. 
  3. ↑ “GPTZERO: A New Tool to Detect AI-Generated Content in ChatGPT”. 《The Washington Post》. 
  4. ↑ “How apps like GPTZero detect content written by A.I.”. 《CNBC》. 2023년 7월 24일. 2023년 9월 21일에 확인함. 
  5. ↑ “GPTZero App Seeks to Thwart AI Plagiarism in Schools, Online Media” (영어). 《Bloomberg.com》. 2023년 5월 8일. 2023년 10월 21일에 확인함. 
  6. ↑ “American Federation of Teachers partners with AI identification platform, GPTZero” (미국 영어). 《CBS 뉴스》. 2023년 10월 17일. 2023년 10월 21일에 확인함. 
  7. ↑ 가 나 Fowler, Geoffrey (2023년 8월 14일). “What to do when you're accused of AI cheating”. 《워싱턴 포스트》. 2023년 10월 20일에 확인함. 
  8. ↑ “How a 23-year-old college student built one of the leading AI detection tools”. 《비즈니스 인사이더》. 2023년 9월 21일에 확인함. 
  9. ↑ “This AI detection tool raised $3.5 million to check the internet for computer-generated work”. 《Fast Company》. 2023. 
  10. ↑ Shrivastava, Rashi. “With Seed Funding Secured, AI Detection Tool GPTZero Launches New Browser Plugin” (영어). 《포브스》. 2023년 5월 17일에 확인함. 
  11. ↑ “GPTZERO: A New AI Detector Aims to Combat ChatGPT Plagiarism”. 《내셔널 퍼블릭 라디오》. 2023년 1월 9일. 
  12. ↑ “AI Detectors Falsely Accuse Students of Cheating—With Big Consequences” (영어). 《Bloomberg.com》. 2024년 10월 18일. 2024년 10월 19일에 확인함. 
  13. ↑ 가 나 다 Contreras, Brian (2024년 9월 18일). “How Can You Detect AI-Generated Text? This Startup Has Some Compelling Ideas”. 
  14. ↑ 가 나 “What is GPTZERO? The ChatGPT Detection Tool Explained”. 《Tech Learning》. 2023년 1월 27일. 
  15. ↑ 가 나 “AI Detector for Educators: What is GPTZERO?”. 《Jumpstart Magazine》. 2023년 3월 2일. 
  16. ↑ Tribune.com.pk (2023년 2월 22일). “GPTZero: A ChatGPT Detection Tool”. 《The Express Tribune》. 
  17. ↑ “GPTZero to help teachers deal with ChatGPT-generated student essays”. 《The Indian Express》. 2023년 1월 12일. 2023년 9월 21일에 확인함. 
  18. ↑ “US Teachers Union Bans ChatGPT and Deploys GPTZero To Detect Cheating” (영어). 《MobileAppAaily》. 2023년 10월 21일에 확인함. 
  19. ↑ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi (2023년 3월 17일). “Can AI-Generated Text be Reliably Detected?”. arXiv:2303.11156 [cs.CL]. 
  20. ↑ Knibbs, Kate. “Researchers Tested AI Watermarks—and Broke All of Them” (미국 영어). 《Wired》. ISSN 1059-1028. 2023년 10월 21일에 확인함. 
  21. ↑ “No reliable way to detect AI-generated text, boffins sigh”. 《더 레지스터》. 2023년 3월 21일. 2023년 9월 25일에 확인함. 
  22. ↑ “There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate”. 《Futurism》. 2023년 1월 9일. 2023년 10월 21일에 확인함. 
  23. ↑ Edwards, Benj (2023년 7월 14일). “Why AI detectors think the US Constitution was written by AI” (미국 영어). 《아르스 테크니카》. 2023년 12월 14일에 확인함. 

외부 링크

[편집]
원본 주소 "https://ko.wikipedia.org/w/index.php?title=GPTZero&oldid=40136262"