Dommage! Un logiciel de détection du plagiat par IA continue d'accuser à tort les étudiants de tricherie

Webmaster Home (ChinaZ.com) Actualités du 7 juin : Afin d'empêcher les étudiants d'utiliser l'IA pour rédiger des articles, certains collèges et universités ont adopté un logiciel de détection du plagiat par l'IA, mais cela peut être un cauchemar pour certains étudiants. Parce qu'un élève a été faussement accusé d'avoir utilisé l'intelligence artificielle pour tricher sur un devoir, puis a été contraint de défendre son nom lors d'une enquête scolaire.

Comme le rapporte Rolling Stone, un article de Louise Stivers, diplômée de l'Université de Californie à Davis, a été signalé par le logiciel de vérification du plagiat Turnitin.

Sans aucun soutien extérieur, Stivers a été obligée de se défendre et de prouver qu'elle n'avait pas utilisé de chatbot IA pour rédiger son article, ajoutant ainsi à la pression pour terminer son dernier semestre. En conséquence, même ses notes ont commencé à baisser, a-t-elle soutenu.

Cet incident met en évidence les défauts importants d'outils comme Turnitin et comment ils sont de plus en plus utilisés pour accuser à tort les étudiants d'utiliser l'intelligence artificielle pour tricher en classe.

Stivers a appris plus tard qu'elle n'était même pas la seule étudiante de l'UC Davis accusée à tort de tricherie basée sur un logiciel de détection basé sur l'IA. Quelques jours seulement avant d'être soumis à un examen minutieux de l'intégrité académique plus tôt cette année, USA Today a publié un rapport similaire dans lequel le major d'histoire William Quarterman a déclaré que son professeur utilisait l'outil de détection d'IA GPTZero. Il a ensuite échoué en classe et a été faussement accusé de plagiat. Quartermaine a donc dû passer par le même processus d’évidence que Stivers.

La détection par des outils comme Turnitin et GPTZero semble inexacte. Lorsque certains utilisateurs ont testé ces deux outils, ils ont constaté que GPTZero était loin d'être à la hauteur. Même l’application de détection du créateur de ChatGPT, OpenAI, n’a pas réussi à faire la distinction de manière fiable entre le texte écrit par l’homme et le texte généré par l’IA.

Finalement, les administrateurs de l'école ont admis à Stivers que l'outil de détection de l'IA de Turnitin était en phase de test bêta et y avait « un accès anticipé ». L'éditeur de logiciels a admis sur son site Internet qu'il y avait des « faux positifs » malgré un prétendu taux d'exactitude de 98 %.

Selon Stivers, l'école n'a pas encore présenté d'excuses. Bref, elle a dû assumer la responsabilité des erreurs du logiciel, ce qui pourrait affecter sa carrière. C'est une réalité inquiétante. Alors que les universitaires utilisent des applications profondément défectueuses de détection du plagiat par l’IA, davantage d’étudiants pourraient être accusés à tort dans un avenir proche, ce qui pourrait avoir des conséquences dévastatrices pour eux.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!