터무니없다! 한 미국 교수가 ChatGPT를 사용하여 자신의 논문이 표절되었음을 '확인'했고, 학급의 절반이 해당 과정에서 낙제했습니다.

큰 출발!

내가 열심히 코딩한 졸업논문이 실제로 교수님이 가져가서 ChatGPT에 올려서 테스트했는데 표절판정을 받았다고?

이것 때문에 교수님이 수업의 절반을 낙제했고, 학교에서는 이것 때문에 졸업장 발급을 거부했다고요?

교수님: ChatGPT로 주장한 사람은 누구나 0점을 받습니다

최근 텍사스 A&M 대학교(Texas A&M)에서 이런 말도 안되는 일이 일어났습니다.

학생들이 제출한 논문에서 부정 행위를 탐지하기 위해 Jared Mumm이라는 교수가 ChatGPT에 논문을 제출했습니다.

그는 학생들에게 이렇게 말했습니다. 귀하의 보고서를 ChatGPT에 복사하여 붙여넣으면 귀하의 보고서가 ChatGPT에 의해 생성되었는지 알려줄 것입니다. ” 배경 지식이 없고 ChatGPT의 원리에 대해 아무것도 모릅니다.

실제로 ChatGPT는 AI가 작성한 콘텐츠는 스스로 작성하더라도 인식하지 못합니다.

심지어 그는 ChatGPT 철자도 제대로 쓰지 않고 "Chat GPT"와 "chat GPT"를 직접 썼습니다.

그 결과, 학급의 절반 이상이 ChatGPT에 의해 무책임하게 "주장"된 논문을 제출하여 해당 주제에서 낙제했습니다.

더 안타까운 점은 대부분의 졸업생들의 졸업장이 학교 측에서 직접적으로 거절되었다는 점입니다.

물론 Mumm 교수님은 학급 전체에게 숙제를 다시 할 수 있는 기회를 주셨습니다.

ChatGPT를 사용하고 있지 않다는 것을 어떻게 증명할 수 있나요?

위 이메일을 받은 후 여러 학생들이 Mumm에게 자신의 결백을 증명하는 편지를 보냈습니다. 그들은 ChatGPT를 사용하지 않는다는 것을 증명하기 위해 Google Docs에 타임스탬프를 제공했습니다.

하지만 Mumm 교수는 이러한 이메일을 무시하고 여러 학생의 채점 소프트웨어에만 이 응답을 남겼습니다. 저는 AI가 만든 똥을 채점하지 않습니다.

그러나 일부 학생은 '복학'을 당했고, 한 학생은 '무죄'를 받고 Mumm으로부터 사과를 받았다고 합니다.

그러나 상황을 더욱 복잡하게 만들기 위해 두 명의 학생이 "앞으로 나와서" 이번 학기에 실제로 ChatGPT를 사용했다고 인정했습니다.

이로 인해 갑자기 ChatGPT를 사용하지 않은 다른 학생들이 자신의 결백을 증명하기 위해 논문을 작성하는 것이 더 어려워졌습니다...

이에 대해 텍사스 A&M 대학교 경영대학원에서는 해당 사건을 조사 중이라고 밝혔습니다. , 하지만 시험에 합격한 학생 중 책임이 없는 학생은 없으며, 이 문제로 인해 시험이 지연된 학생도 없습니다.

학교에서는 엄마 교수님이 숙제 작문 과정에서 AI가 사용되는지, 어느 정도 사용되는지 알아보기 위해 학생들과 일대일로 이야기를 나누고 있다고 밝혔습니다. 개별 학생 졸업장은 조사가 완료될 때까지 보류됩니다.

그리고 학생들이 졸업장을 받지 못했다고 합니다.

현재 해당 사건은 아직 조사 중입니다.

ChatGPT를 사용하여 ChatGPT를 감지하시겠습니까?

그럼 질문은, ChatGPT가 기사가 직접 작성되었는지 여부를 증명할 수 있습니까?

이와 관련하여 우리는 ChatGPT에 교수 이메일의 내용을 바탕으로 의견을 물었습니다.

ChatGPT는 처음부터 내용의 독창성과 그것이 사실인지 여부를 확인할 수 있는 능력이 없다고 밝혔습니다. AI에 의해 생성되었습니다.

"이 선생님은 나 같은 AI가 어떻게 작동하는지 오해한 것 같습니다. AI는 프롬프트에 따라 텍스트를 생성할 수 있지만 AI가 다른 텍스트를 생성했는지 여부는 판단할 수 없습니다." , 재미를 좋아하는 네티즌을 막지 않습니다.

그들은 Mumm 교수에게 온라인에서 행동하는 방법을 가르치기 위해 "다른 사람에게 자신의 방식으로 가르치기"라는 프로그램을 고안했습니다.

먼저 ChatGPT에서는 교수님이 쓴 이메일이 본인이 쓴 것이라고 밝혔습니다.

이후 네티즌들은 Mumm 교수의 접근 방식을 따라했습니다.

특정 논문처럼 보이는 발췌문을 가져와 ChatGPT에 Mumm 교수가 쓴 것인지 물었습니다.

이번에는 ChatGPT가 직접 작성한 것이라고는 말하지 않았지만 기본적으로 해당 내용이 AI에서 나온 것이 확실합니다.

그 중 몇 가지 기능은 Al이 생성한 콘텐츠와 일치합니다.

1 텍스트는 일관되고 일반적인 것부터 구체적인 것까지 명확한 구조를 따릅니다.

2. 출처와 수치자료를 정확하게 인용하세요.

3. 일반적인 Al 모델의 특징인 용어를 올바르게 사용하고 있습니다. 예를 들어, GPT-4는 과학 문헌을 포함한 다양한 텍스트에 대해 훈련되었습니다.

그럼 실제로 이 콘텐츠는 어디서 나온 걸까요?

여기서 흥미로운 부분이 나왔습니다. 의외로 Mumm 교수가 직접 쓴 박사 논문이었습니다!

AI 감지기가 작동하지 않나요?

ChatGPT는 AI가 콘텐츠를 생성했는지 여부를 확인할 수 없는데 어떻게 할 수 있나요?

물론, 마법으로 마법을 물리친다고 주장하는 "AI 탐지기"는 이러한 목적을 위해 특별히 제작되었습니다.

많은 AI 감지기 중에서 가장 유명한 것은 프린스턴 중국 학부 Edward Tian이 만든 GPTZero입니다. 무료일 뿐만 아니라 뛰어난 결과를 제공합니다.

텍스트를 복사해서 붙여넣기만 하면 GPTZero는 텍스트 중 어떤 단락이 AI에 의해 생성되었는지, 어떤 단락이 인간이 쓴 것인지 명확하게 지적할 수 있습니다.

원칙적으로 GPTZero는 판단을 내리는 지표로 주로 "곤란함"(텍스트의 무작위성)과 "갑자기"(곤란함의 변화)에 의존합니다.

각 테스트에서 GPTZero는 혼동도가 가장 높은 문장, 즉 인간의 말과 가장 유사한 문장도 선택합니다.

그러나 이 방법은 완전히 신뢰할 수는 없습니다. GPTZero는 제품의 오탐률이 2% 미만이라고 주장하지만 이 데이터는 뉴스 콘텐츠 평가에 더 가깝습니다.

실제 테스트에서 누군가 GPTZero에 미국 헌법을 입력한 적이 있는데, 그 결과 AI가 작성한 것으로 판단되었습니다.

지금 ChatGPT 답변에 관해서 GPTZero는 아마도 전적으로 사람이 작성한 것으로 믿고 있습니다.

이로 인해 원리를 이해하지 못하고 너무 고집을 부리는 교사는 Mumm 교수와 같은 의도치 않게 많은 학생을 잘못하게 될 것입니다.

그러면 이런 상황에 직면하게 된다면 우리의 결백을 어떻게 증명해야 할까요?

일부 네티즌들은 '미국 헌법 실험'과 유사하다고 제안하며 ChatGPT 등장 전 기사를 AI 탐지기에 던져 결과가 어떤지 살펴봤습니다.

하지만 논리적으로 말하면, AI 탐지기가 실제로 신뢰할 수 없다는 것이 입증될 수 있다고 해도 학생들은 자신의 논문이 AI에 의해 생성되지 않았다는 것을 직접적으로 증명할 수 없습니다.

ChatGPT에 깨는 방법을 물어보세요. 이렇게 나와 있습니다.

"교사들이 AI의 작업 방식과 한계를 이해하게 해주세요", ChatGPT가 Huadian을 발견했습니다.

지금 생각나는 답은 교수님 코앞에서 직접 글을 쓰지 않는다면 논문을 쓸 때마다 화면을 녹화하거나 그냥 생방송을 하라는 것뿐이다. 교수님께.

OpenAI도 공식 ChatGPT 탐지기에 대해 26%의 "참 긍정" 정확도만을 보장할 수 있습니다.

또한 모든 사람에게 예방접종을 제공하기 위해 공식 성명을 발표했습니다. "AI를 사용하는 모든 종류의 평가와 마찬가지로 이 도구가 잘못될 수 있다는 것을 알고 있기 때문에 이 도구를 단독으로 사용하는 것을 권장하지 않습니다."

AI 콘텐츠 감지가 왜 그렇게 어려운가요?

이미 시장에는 GPTZero, Turnitin, GPT-2 Output, Writer AI, Content at Scale AI 등 수많은 감지기가 있지만 정확도는 만족스럽지 않습니다.

그럼 콘텐츠가 AI에 의해 생성되었는지 감지하는 것이 왜 그렇게 어려운가요?

Turnitin AI 부사장 Eric Wang은 AI 글쓰기를 감지하기 위해 소프트웨어를 사용하는 원리는 통계에 기초한다고 말했습니다. 통계적인 관점에서 볼 때 AI와 인간의 차이점은 평균 수준에서 매우 안정적이라는 것입니다.

"ChatGPT와 같은 시스템은 다음으로 쓸 가능성이 가장 높은 단어를 찾는 자동 완성의 고급 버전과 같습니다. 이것이 바로 자연스럽게 읽는 이유입니다. AI 쓰기는 인간 쓰기의 가장 발전된 형태입니다. 가능한 하위 집합 ."

Turnitin의 감지기는 "글이 너무 일관적인 평균 상황을 식별"합니다. 그러나 때로는 인간의 글이 평범해 보일 수도 있습니다.

경제학, 수학, 실험 보고서에서 학생들은 고정된 글쓰기 스타일을 따르는 경향이 있는데, 이는 AI 글쓰기로 오해될 가능성이 더 높다는 것을 의미합니다.

더 흥미로운 점은 최근 논문에서 스탠포드 대학교 연구팀이 원어민이 아닌 사람이 쓴 논문의 경우 GPT 감지기가 AI가 쓴 논문을 식별할 가능성이 더 높다는 사실을 발견했다는 것입니다. 이 중 중국인이 쓴 영어 논문이 AI에 의해 생성된 것으로 판단될 확률은 무려 61%에 이른다.

논문 주소: https://arxiv.org/pdf/2304.02819.pdf

연구원들은 중국 교육 포럼에서 91개의 TOEFL 에세이를 입수하여 미국 휴렛 재단의 데이터 세트에서 추출했습니다. 미국 8학년 학생들이 쓴 88개의 에세이가 7개의 주요 GPT 탐지기에 입력되었습니다.

사진 속 퍼센트는 '오판' 비율입니다. 즉, 분명히 인간이 쓴 것이지만 AI가 생성한 것으로 판단됩니다

일 수도 ​​있습니다 미국 학생들의 에세이가 심사될 확률이 가장 높은 것은 12%에 불과한 반면, 중국 학생들의 에세이는 기본적으로 절반 이상, 심지어 76%까지 높다.

연구원들은 비원어민이 쓴 글은 진품이 아니고 복잡성도 낮기 때문에 오해를 받기 쉽다고 결론지었습니다.

복잡성을 기준으로 작성자가 인간인지 AI인지 판단하는 것은 불합리하다고 볼 수 있습니다.

아니면 다른 이유가 있나요?

이에 대해 Nvidia 과학자 Jim Fan은 탐지기가 오랫동안 신뢰할 수 없을 것이라고 말했습니다. 결국 AI는 더욱 강력해지고 점점 더 인간과 유사한 방식으로 글을 쓸 것입니다.

시간이 지남에 따라 이러한 언어 모델의 단점은 점점 줄어들 것이라고 말해도 무방합니다.

학생들에게 좋은 소식이 될지, 나쁜 소식이 될지는 모르겠습니다.

위 내용은 터무니없다! 한 미국 교수가 ChatGPT를 사용하여 자신의 논문이 표절되었음을 '확인'했고, 학급의 절반이 해당 과정에서 낙제했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!