사기꾼 주의: ChatGPT 제조사, AI 탐지 도구 출시

샌프란시스코(AP) — ChatGPT 제작자는 교사가 학생이나 인공 지능이 숙제를 작성했는지 감지하는 데 도움이 되는 새로운 도구를 사용하여 자유로운 부정 행위 기계라는 평판을 억제하려고 노력하고 있습니다.

OpenAI가 화요일에 출시한 새로운 AI 텍스트 분류기는 명령에 따라 무엇이든 작성할 수 있는 ChatGPT의 능력이 학문적 부정직을 촉진하고 학습을 방해할 수 있다는 두려움에 대해 학교와 대학에서 몇 주 동안 논의된 이후에 만들어졌습니다.

OpenAI는 이미 사용 가능한 다른 도구와 마찬가지로 새로운 도구도 완벽하지 않다고 경고합니다. OpenAI의 정렬 팀 책임자인 Jan Leike는 AI가 작성한 텍스트를 감지하는 방법은 "불완전하며 때로는 잘못될 수 있다"고 말했습니다.

"그러므로 결정을 내릴 때 그것에만 의존해서는 안 됩니다."라고 Leike는 말했습니다.

11월 30일 OpenAI 웹사이트에서 ChatGPT가 무료 애플리케이션으로 출시된 후 ChatGPT를 실험하기 시작한 수백만 명의 사람들 중에는 청소년과 대학생도 포함되었습니다. 많은 사람들이 이를 창의적이고 무해하게 사용할 수 있는 방법을 찾았지만, 집에서 가져갈 수 있는 시험 문제에 답하고 다른 과제를 지원할 수 있는 용이성은 일부 교육자들 사이에 공포를 불러일으켰습니다.

새해를 맞아 학교가 문을 열 때쯤 뉴욕시, 로스앤젤레스 및 기타 대규모 공립학교에서는 교실과 학교 기기에서의 사용을 차단하기 시작했습니다.

시애틀 공립학교 학군은 처음에 12월에 모든 학교 장치에서 ChatGPT를 차단했지만 이후 이를 교육 도구로 사용하려는 교육자들에게 액세스를 허용했다고 학군 대변인인 팀 로빈슨(Tim Robinson)이 말했습니다.

로빈슨은 “우리는 이를 무시할 여유가 없다”고 말했다.

학군에서는 또한 ChatGPT를 교실로 확장하여 교사가 학생들을 더 나은 비판적 사고자가 되도록 훈련하고 학생들이 이 애플리케이션을 "개인 교사"로 사용하거나 과제를 수행할 때 새로운 아이디어를 생성하는 데 도움을 줄 수 있도록 하는 방안을 논의하고 있습니다. , 로빈슨은 말했다.

전국 각지의 학군에서는 ChatGPT에 대한 대화가 빠르게 발전하고 있다고 말합니다.

메릴랜드주 Calvert County Public School District의 기술 전문가인 Devin Page는 "초기 반응은 '맙소사, ChatGPT에서 일어날 모든 부정행위를 어떻게 막을 수 있을까요?'였습니다."라고 말했습니다. 이제 "이것이 미래다"라는 인식이 커지고 있으며 이를 막는 것은 해결책이 아니라고 그는 말했습니다.

페이지는 "이 도구가 제기하는 위험을 인식하지 못한다면 순진한 생각이겠지만, 학생들을 금지하고 이 도구의 모든 잠재적인 힘을 사용하지 못하게 한다면 우리는 학생들에게 도움이 되지 못할 것"이라고 말했다. 그 자신과 마찬가지로 결국 ChatGPT의 차단을 해제할 것입니다. 특히 회사의 탐지 서비스가 마련되면 더욱 그렇습니다.

OpenAI는 화요일 블로그 게시물에서 탐지 도구의 한계를 강조했지만 표절을 방지하는 것 외에도 자동화된 허위 정보 캠페인 및 인간을 모방하기 위한 기타 AI 오용을 탐지하는 데 도움이 될 수 있다고 말했습니다.

텍스트 길이가 길수록 도구는 AI가 쓴 것인지 인간이 쓴 것인지 더 잘 감지할 수 있습니다. 대학 입학 에세이 또는 Ralph Ellison의 "Invisible Man"에 대한 문학적 분석 등 텍스트를 입력하면 도구에서 "매우 가능성 없음, 가능성 없음, 불분명함"이라는 레이블을 지정합니다. -생성.

그러나 엄청난 양의 디지털 도서, 신문, 온라인 글에 대해 훈련을 받았지만 종종 자신있게 거짓이나 말도 안되는 소리를 내뱉는 ChatGPT 자체와 마찬가지로, 그것이 어떻게 결과를 얻었는지 해석하기는 쉽지 않습니다.

"우리는 그것이 어떤 종류의 패턴에 주의를 기울이는지, 내부적으로 어떻게 작동하는지 근본적으로 알지 못합니다."라고 Leike는 말했습니다. "현재로서는 분류기가 실제로 어떻게 작동하는지에 대해 말할 수 있는 것이 많지 않습니다."

전 세계 고등 교육 기관에서도 AI 기술의 책임 있는 사용에 대해 논의하기 시작했습니다. 프랑스의 가장 명문 대학 중 하나인 시앙스 포(Sciences Po)는 지난 주 이의 사용을 금지했으며 은밀하게 ChatGPT 및 기타 AI 도구를 사용하여 서면 또는 구두 작업을 생성하는 사람은 시앙스 포 및 기타 기관에서 금지될 수 있다고 경고했습니다.