La triche ChatGPT inquiète, OpenAI : développe son propre outil d'audit

Avec l’arrivée des modèles de génération de langage, les devoirs scolaires deviendront-ils désormais inutiles ? Récemment, les responsables de l'éducation de la ville de New York ont ​​suscité la controverse en annonçant l'interdiction pour les étudiants d'utiliser ChatGPT dans les écoles publiques.

Le contenu généré automatiquement par le modèle de langage « référencera » les travaux existants, et la vitesse de sortie est presque illimitée. Les inquiétudes des gens à ce sujet se sont propagées à la communauté universitaire de l'IA elle-même, l'ICML. les conférences d'apprentissage, également récemment annoncées, les articles contenant du contenu généré par ChatGPT et d'autres systèmes similaires sont interdits pour éviter des « conséquences inattendues ».

Pour une telle situation, OpenAI, le proposant de ChatGPT, a annoncé qu'il travaillait dur pour développer des « mesures d'atténuation » pour aider les gens à détecter le texte généré automatiquement par l'IA.

"Nous utilisons ChatGPT comme technologie d'avant-première pour de nouvelles recherches dans l'espoir d'apprendre des applications du monde réel. Nous pensons qu'il s'agit d'un élément essentiel du développement et du déploiement de systèmes d'IA puissants et sécurisés. Nous continuerons à Prendre en compte les retours et les leçons apprises", a déclaré un porte-parole de l'entreprise. "OpenAI a toujours appelé à la transparence lors de l'utilisation de textes générés par l'IA. Nos conditions d'utilisation tiennent les utilisateurs responsables en premier lorsqu'ils utilisent notre API et nos outils créatifs envers les populations auxquelles ils sont destinés... Nous sommes impatients de travailler avec les enseignants pour développer des solutions efficaces. pour aider les enseignants, les étudiants et autres à trouver des moyens de bénéficier de l'IA "

Si des algorithmes émergent qui peuvent faire la distinction entre le contenu généré par l'homme et celui généré par la machine, la façon dont les modèles génératifs sont utilisés dans le monde universitaire pourrait changer. Les écoles seront en mesure de limiter plus efficacement les papiers générés par l'intelligence artificielle, et si les attitudes des gens changent et s'attendent à ce que ces outils aident les étudiants, peut-être pourrons-nous aussi progressivement accepter l'utilisation de l'IA pour l'assistance et améliorer l'efficacité du travail et des études.

Maintenant, il semble qu'il reste encore un long chemin à parcourir. Même si les textes générés par l'IA peuvent sembler impressionnants lors de conférences universitaires et dans les informations sur les écoles interdisant aux machines de tricher sur les dissertations, vous devez savoir qu'ils manquent souvent de compréhension et de logique réelles par rapport à l'écriture humaine réelle.

Alors que des outils comme GPT-3 ou ChatGPT surprennent les gens en donnant des réponses incroyablement détaillées, il existe également des experts impartiaux qui disent que cela prouve que les modèles sont capables d'encoder des connaissances, mais lorsqu'ils ne parviennent pas à faire les choses correctement, les réponses données sont souvent scandaleux. Gary Smith, professeur d'économie au Pomona College, nous rappelle de ne pas nous laisser berner.

Dans une chronique, Gary Smith a montré plusieurs exemples de l'incapacité de GPT-3 à raisonner et à répondre efficacement aux questions : « Si vous essayez d'utiliser GPT-3, votre première réaction peut être surprise – il semble que vous ayez une vraie conversation avec une personne très intelligente, mais en creusant plus profondément, vous découvrirez rapidement que même si GPT-3 peut enchaîner des mots de manière convaincante, il ne sait pas ce qu'ils signifient. L'automne ne nécessite aucune compréhension de la signification de ces deux mots. Grâce à des calculs statistiques, l'IA peut penser que ces mots vont souvent ensemble. Par conséquent, GPT-3 facilite les affirmations complètement fausses mais arbitraires. "

OpenAI a publié ChatGPT en novembre 2022, un modèle plus récent qui améliore GPT-3. Néanmoins, il souffre toujours des mêmes problèmes que tous les modèles linguistiques existants.

Comment utiliser l'IA pour détecter le texte généré par l'IA ?

Il était une fois le contenu textuel généré par l'IA qui était encore "faux à première vue", mais depuis l'émergence de ChatGPT, ce type de discrimination est devenu de plus en plus difficile à faire.

Dans le secteur de l'éducation, le débat sur ChatGPT tourne autour de la possibilité de tricher. Recherchez sur Google « Rédaction d'essais ChatGPT » et vous trouverez de nombreux exemples d'éducateurs, de journalistes et d'étudiants tâtant le terrain en utilisant ChatGPT pour les devoirs et les tests de dissertation standardisés.

Un chroniqueur du Wall Street Journal a utilisé ChatGPT pour rédiger un article en anglais de l'AP, tandis qu'un journaliste de Forbes l'a utilisé pour rédiger deux dissertations universitaires en 20 minutes. Dan Gillmor, professeur à l'Arizona State University, a rappelé dans une interview avec le Guardian qu'il avait essayé de confier une mission à ChatGPT aux étudiants et avait découvert que les articles générés par l'IA pouvaient également obtenir de bonnes notes.

Actuellement, certains développeurs ont produit un outil de détection du contenu généré par ChatGPT - "GPTZero". Il vous suffit de coller le contenu dans la zone de saisie, et vous pouvez obtenir les résultats de l'analyse en quelques secondes et détecter rapidement un Si l'article a été écrit par ChatGPT ou par des humains.

Commentaires des internautes : Les étudiants du monde entier ont pleuré après l'avoir vu.

L'auteur est Edward Tian, ​​​​un étudiant à l'Université de Princeton, qui a utilisé une partie de ses vacances pour écrire GPTZero.

Jetons un coup d'œil au processus de détection, en prenant d'abord comme exemple un élément de contenu du rapport du New Yorker (100% sûr d'être écrit par des humains) :

Regardons sur un contenu généré par ChatGPT pour l'accepter Détection :

Le principe de l'application GPTZero est d'analyser à l'aide de certains attributs de texte. Le premier est la perplexité, qui est le caractère aléatoire du texte par rapport au modèle, ou le degré auquel le modèle de langage « aime » le texte ; une période de temps plus uniforme et constante, ce qui n'est pas le cas du texte écrit par l'homme.

GPTZero : "Étudiants, je suis désolé ! Professeurs, de rien !"

Selon le Guardian, OpenAI développe actuellement une fonction pour compter les "filigranes" des résultats de sortie de ChatGPT. " afin que les lecteurs puissent découvrir des modèles cachés dans la sélection de texte par l'IA.

Dans un discours prononcé à l'Université du Texas, le chercheur invité d'OpenAI, Scott Aaronson, a déclaré que la société travaillait sur un système pour lutter contre la triche en « tatouant statistiquement la sortie ». Aaronson a déclaré que la technologie fonctionnera en ajustant subtilement les choix de mots spécifiques choisis par ChatGPT d'une manière qui ne sera pas perceptible par les lecteurs mais qui sera statistiquement détectable par toute personne recherchant des signes de texte généré par la machine.

"Nous avons en fait un prototype fonctionnel de la solution de filigrane", a ajouté Aaronson. "Cela semble très bien fonctionner - d'après l'expérience, quelques centaines de mots semblent suffire pour obtenir un signal : oui, ce texte provient de GPT

Malgré les inquiétudes des gens, les applications liées à ChatGPT se répandent également rapidement." ouvrir. Dans de nombreux scénarios, les gens ne veulent pas parler à un chatbot qui ne peut pas comprendre des requêtes simples, et ChatGPT, qui peut dire quelques mots sur n'importe quoi, peut résoudre ce problème. Ada, basée à Toronto, s'est associée à OpenAI pour appliquer GPT-3.5, le grand modèle derrière ChatGPT, aux chatbots du service client, réalisant ainsi 4,5 milliards d'interactions avec le service client.

Selon The Information, Microsoft a également signé un accord de licence exclusif avec OpenAI et prévoit d'intégrer la technologie dans le moteur de recherche Bing.

ChatGPT accélère sur la voie de la simulation de personnes réelles, et cette bataille contre la contrefaçon va se poursuivre.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!