En 20 minutes, l'article rédigé par AI a facilement obtenu un A ! L'algorithme de détection de l'école ne peut pas non plus l'utiliser. Étudiant : Quand GPT-4 sera-t-il publié ?

​Produit par Big Data Digest

Auteur : Caleb

Maintenant, les impressions de plus en plus de professeurs sur les étudiants se limitent progressivement à leurs matières principales et à leurs excellents documents de cours.

Mais ce qu'ils ne savent pas, c'est que ces excellents documents de cours ne sont peut-être pas rédigés par ces étudiants, mais par de puissants systèmes d'IA.

Par exemple, pour un étudiant de première année en biochimie nommé innovate_rye sur Reddit, le professeur assignait des devoirs simples comprenant des réponses détaillées lorsqu'il mettait "Écrivez cinq bonnes et mauvaises choses sur la biotechnologie" après l'avoir soumis à l'IA. , le système peut donner une réponse avec une note finale de A.

Cet internaute a déclaré qu'avant, ces devoirs leur prenaient au moins deux heures, mais maintenant, ils ne prennent généralement que 20 minutes.

"J'aime apprendre beaucoup de choses, mais les devoirs assignés par l'école me prennent trop de temps ; maintenant, pouvoir utiliser l'IA pour terminer ces devoirs plus efficacement semble être une compétence pour moi."

Cette situation n'est pas seulement rencontrée par innovate_rye.

Depuis qu'OpenAI a annoncé la dernière interface de programmation d'application (API) pour le modèle de langage GPT-3, de plus en plus d'étudiants ont commencé à saisir leurs devoirs écrits dans Playground d'OpenAI et dans des programmes similaires pour écrire.

Le résultat actuel est que le texte écrit par l'IA via ces invites est souvent impossible à distinguer de celui écrit par les humains.

Ce que l'IA « écrit » ne peut pas être détecté par les algorithmes

Au printemps dernier, AeUsako_ a rappelé que lorsqu'il était lycéen, ils utilisaient OpenAI pour « écrire » un article sur la situation mondiale contemporaine, bien que cette mission n'a pas reçu de notes élevées, des points ont été déduits simplement faute de sources citant.

En tout cas, cette « expérience » s'est heurtée à une chose, c'est-à-dire que l'algorithme de détection de plagiat de l'école n'a aucun effet substantiel sur le texte généré par l'IA.

À cet égard, George Veletsianos, titulaire de la Chaire de recherche du Canada sur l'apprentissage et les technologies innovantes et professeur agrégé à l'Université Royal Roads, a déclaré que cela est dû au fait que le texte produit par des systèmes comme l'API OpenAI est techniquement généré dans un algorithme de boîte noire.

"[Ces textes] n'ont pas été copiés d'ailleurs, ils ont été générés par une machine, donc les logiciels de vérification du plagiat ne peuvent pas les détecter et ne peuvent pas les envoyer. Sans savoir à quel point ces autres outils de vérification du plagiat fonctionnent et quel est leur avenir. Développements possibles, je ne pense pas que le texte de l'IA puisse être détecté de cette manière.

Et si des entreprises comme OpenAI ont la capacité de détecter ou d'empêcher les étudiants d'utiliser ces outils pour rédiger leurs devoirs, OpenAI n'a pas fait de commentaire à ce sujet.

En tant que professeur d'écriture et fondateur du programme de tutorat privé Crush the College Essay, Peter Laffin affirme que des outils comme OpenAI sont emblématiques d'autres technologies compensatoires que la technologie a produites au cours de la dernière décennie, telles que l'assistant de saisie basé sur le cloud conçu pour aider les écrivains en manque d'inspiration.

« Dans l'enseignement littéraire, en particulier pour les jeunes écrivains qui sont encore en phase de développement, les tuteurs recherchent un niveau de difficulté approprié qui leur garantira de ne pas s'effondrer et leur permettra d'améliorer leurs compétences professionnelles "

.

Les enseignants sont généralement inquiets, mais les étudiants ne le sont pas

En tant que modèle de langage vedette à grande échelle, GPT-3 est produit par la société d'intelligence artificielle générale (AGI) OpenAI et ne bénéficie pas seulement de milliards de dollars de Microsoft. face au dollar américain, le gouvernement américain lui a également laissé carte blanche en matière de réglementation.

GPT-3 utilise l'apprentissage en profondeur pour générer un texte de type humain Tant que le texte initial est donné, le système peut générer le texte suivant.

Son réseau neuronal contient 175 milliards de nerfs, ce qui est le modèle de réseau neuronal avec le plus de paramètres au monde.

Le 18 novembre 2021, OpenAI a annoncé l'annulation de la liste d'attente pour l'accès à l'API GPT-3. Cela montre également qu'OpenAI croit en la sécurité de GPT-3, ou qu'OpenAI peut entièrement surveiller GPT-3 afin que ce grand modèle puisse être diffusé plus largement.

Concernant le développement actuel de l'intelligence artificielle, y compris GPT-3, Veletsianos a souligné que nous avons probablement dépassé le point de non-retour pour les textes générés par l'intelligence artificielle, et que les étudiants ne sont pas les seuls à adopter nouvelles technologies.

« Nous pouvons également commencer à voir que cette technologie peut générer directement un contenu de cours, et même quelques questions autour de ce contenu. Cela ne veut pas dire que le système actuel est le meilleur, mais nous devons en profiter. Les outils améliorent non seulement l’efficacité de l’enseignement, mais également la participation et l’efficacité des étudiants. »

Laffin a également reconnu la nécessité d'une réévaluation d'une éducation efficace, qui, selon lui, pourrait être évaluée en examinant les types de travail que les écoles offrent aux étudiants, en se concentrant sur la différence entre la reformulation des faits et la découverte d'informations. Cependant, il craint également que les générateurs de texte comme OpenAI rendent la rédaction sur papier inutile.

« Nous avons perdu la joie d’apprendre. Nous en savons peut-être plus, mais nous n’apprenons jamais comment nous y sommes arrivés. Nous continuons à souligner que le processus est la meilleure partie, mais c’est probablement ce qui est le plus susceptible d’être étouffé. des universitaires, je ne sais pas ce que ce serait si quelqu'un n'avait jamais eu de difficultés dans ses études, je ne sais pas quel impact cela aurait sur le comportement de cette personne

En même temps, pour les camarades de classe. De notre côté, ils attendent avec impatience GPT-4. Pour innovate_rye et d’autres, GPT-4, qui devrait être formé sur 100 000 milliards de paramètres d’apprentissage automatique, a le potentiel d’aller au-delà de la simple sortie de texte.

Oui, ils n’envisagent pas d’arrêter d’utiliser l’intelligence artificielle pour rédiger des articles.

"Je fais toujours les devoirs que je dois étudier pour réussir, j'utilise simplement l'IA pour les choses que je ne veux pas faire ou que je ne trouve pas de sens", a ajouté innovate_rye. "Si l'IA peut faire mes devoirs maintenant, à quoi ressemblera l'avenir ? Ces questions me passionnent."

De manière inattendue, AI a également co-écrit un livre

Bien que les écoles s'inquiètent toujours de l'impact sur l'éducation des élèves, les tentacules de l'IA sont évidemment plus profondes.

Par exemple, écrire un livre.

Ce livre intitulé GPT-3 Techgnosis ; Chaos Magick Butoh Grimoire lui-même sert de prose assistée par machine, et son co-auteur est une entité numérique nommée Norn.

En d'autres termes, Norn a non seulement aidé à créer ces mots, mais il les a également interprétés lui-même.

Comme vous pouvez le deviner, Norn est un processeur de langage naturel alimenté par GPT-3 qui utilise principalement de grandes archives de données d'entraînement provenant de l'Internet public, ce qui permet au système de générer un texte réaliste qui est souvent difficile distinguer de quelque chose écrit par une personne réelle.

Le premier tiers du livre, le Norn Working. Celles-ci incluent des invites textuelles de l'auteur, telles que "GPT-3 commence à écrire un poème mystérieux", puis laissent Norn jouer librement, afin que nous puissions voir que le système commence à interroger ses propres réponses sans aucune autre invite.

Ailleurs dans ce chapitre, Norn crée également son propre "Post Digital Language", un concept théorique sur l'évolution des signes et de la sémiotique que Wurds a écrit en privé plus d'une douzaine de fois sur un sujet de l'année.

Les moteurs de complétion de texte comme GPT-3 créent souvent ces réactions incroyables et inquiétantes. Mais selon Wurds, leur trilogie de livres n’a pas vocation à être dérangeante. Il s'agit plutôt d'explorer le potentiel spirituel de la tradition avant-gardiste japonaise du Butoh, une danse improvisée dans laquelle les pratiquants se retrouvent souvent avec des rebondissements étranges et spontanés. Lors de la création de ce livre, l'auteur a pratiqué le Butoh jusqu'à un état d'épuisement, puis est retourné à l'ordinateur pour communiquer avec Norn – une juxtaposition du numérique et du physique dans l'espace physique.

Il est vrai que la menace existentielle que représente l'intelligence artificielle générale pour l'humanité semble relativement lointaine, mais l'IA comme GPT-3 a en effet ouvert une fissure dans le futur, et peut-être pouvons-nous avoir un aperçu de certaines possibilités futures. .

Rapports associés :

https://www.vice.com/en/article/m7g5yq/students-are-using-ai-to-write-their-papers-because-of-course-they-are

https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire-was-co-authored-by-a-disturbingly-realistic-ai

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!