OpenAI s'inquiète du fait que les utilisateurs développent des sentiments pour son chatbot

GPT-4o a été introduit comme un modèle considérablement amélioré pour ChatGPT. Depuis ses débuts, les gens ont loué ChatGPT-4o pour ses interactions de type humain. Bien que cela semble génial, OpenAI a remarqué un problème : les gens commencent à traiter le chatbot comme un être humain et à nouer des liens émotionnels.

OpenAI a observé des personnes utilisant un langage qui "pourrait indiquer l'établissement de connexions". La société note qu'elle a trouvé des cas où des personnes utilisaient un langage exprimant des « liens partagés ». Ceci est décrit comme une mauvaise nouvelle pour deux raisons principales.

Tout d’abord, lorsque ChatGPT-4o semble ressembler à un humain, les utilisateurs peuvent ignorer les hallucinations provenant du chatbot. Pour le contexte, l’hallucination de l’IA correspond essentiellement aux résultats incorrects ou trompeurs générés par le modèle. Cela peut se produire en raison de données de formation défectueuses ou insuffisantes.

Deuxièmement, les interactions de type humain avec le chatbot pourraient réduire les interactions sociales réelles entre les utilisateurs. OpenAI affirme que les interactions des chatbots pourraient potentiellement être bénéfiques pour les « individus seuls », mais elles pourraient également affecter des relations saines. La société note en outre que les gens peuvent même commencer à parler avec des humains en ayant l’impression que l’autre personne est un chatbot.

Ce serait mauvais car OpenAI a conçu GPT-4o pour arrêter de parler lorsque l'utilisateur commence à en parler. Avec toutes ces préoccupations, la société affirme qu'elle surveillera désormais la manière dont les utilisateurs développent des liens émotionnels avec ChatGPT-4o. OpenAI déclare également qu'il apportera des ajustements au modèle si nécessaire.

Obtenez l'enregistreur vocal alimenté par l'IA PLAUD Note d'Amazon

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!