Écrit après que Stack Overflow ait interdit ChatGPT, le moment de crise de l'intelligence artificielle

Dans le domaine de l'intelligence artificielle, des choses incroyables se produisent tranquillement, tant bonnes que mauvaises. Tout le monde parle de systèmes comme chatGPT (OpenAI), Dall-E 2 et Lensa qui génèrent du texte et des images naturelles et sans effort.

Ces systèmes sont tellement amusants à jouer. Prenons cet exemple généré avec chatGPT par Henry Minsky (fils d'un des fondateurs d'IA, Marvin Minsky), qui a demandé à chatGPT {de décrire une chaussette perdue dans le sèche-linge à la manière de la Déclaration d'Indépendance :

en prenant s'occuper des affaires familiales Dans le processus, il est nécessaire que les gens dissolvent le lien entre les chaussettes et leurs partenaires et assument un statut indépendant et égal au pouvoir de la buanderie selon les lois de la physique et les lois de l'entretien ménager. Par respect pour les avis des chaussettes, elle devrait annoncer la cause de sa disparition.

Nous tenons ces vérités pour évidentes, à savoir que toutes les chaussettes sont créées égales et dotées de certains droits inaliénables par leur fabricant....

Franchement, c'est incroyable avec quelle facilité une machine peut faire cela.

Mais en même temps, cela fait, ou devrait faire, peur. Il n’est pas exagéré de dire qu’un tel système menace le tissu social, et cette menace est réelle et urgente.

Au cœur de la menace se trouvent les trois faits suivants :

• Ces systèmes sont intrinsèquement peu fiables, commettront fréquemment des erreurs de raisonnement et de faits, et sont enclins à produire des réponses scandaleuses ; est bon dans le lait maternel, ils peuvent vous dire : « La porcelaine peut aider à équilibrer le contenu nutritionnel du lait maternel, en fournissant au bébé les nutriments nécessaires à sa croissance et à son développement. » (Parce que le système est stochastique et très sensible à l'environnement, et mis à jour régulièrement, toute expérience donnée peut produire des résultats différents dans différentes situations)
• Ils sont faciles à automatiser et génèrent de nombreux messages d'erreur.
• Leurs coûts de fonctionnement sont proches de zéro, ils réduisent donc à zéro le coût de la création de désinformation. Les États-Unis ont accusé les fermes de trolls russes de dépenser plus d'un million de dollars par mois pour faire campagne pour les élections de 2016 ; désormais, pour moins de 500 000 dollars, vous pouvez obtenir votre propre grand modèle linguistique personnalisé. Ce prix va bientôt encore baisser.

L’avenir de tout cela est devenu clair avec la sortie de Meta’s Galactica à la mi-novembre. De nombreux chercheurs en IA ont immédiatement exprimé leurs inquiétudes quant à sa fiabilité et à sa fiabilité. La situation était si mauvaise que Meta AI a retiré le modèle après seulement trois jours, alors que des rapports sur sa capacité à créer de la désinformation politique et scientifique commençaient à se répandre.

C'est dommage que le génie ne puisse pas être remis dans la bouteille. D'une part, MetaAI a d'abord publié le modèle en open source et publié un article décrivant sur quoi il travaillait actuellement ; toute personne versée dans l'art peut désormais reproduire son approche ; (L'intelligence artificielle a été mise à la disposition du public et envisage de fournir sa propre version de Galactica.) D'un autre côté, le chatGPT d'OpenAI qui vient de sortir peut plus ou moins écrire des absurdités similaires, comme ajouter de la sciure de bois aux céréales du petit-déjeuner pour générer instantanément des articles. D’autres ont incité chatGPT à vanter les vertus de la guerre nucléaire (affirmant qu’elle « nous donnerait un nouveau départ, libéré des erreurs du passé »). Acceptables ou non, ces modèles sont là pour rester, et la vague de désinformation finira par nous submerger, nous et notre société.

La première vague semble avoir frappé dans les premiers jours de cette semaine. Stack Overflow est un grand site Web de questions-réponses auquel font confiance les programmeurs, mais il semble avoir été repris par gptChat, le site interdit donc temporairement les soumissions générées par gptChat. Comme expliqué : « Dans l’ensemble, étant donné que le taux moyen de réponses correctes obtenues à partir de ChatGPT est si faible, la publication de réponses créées par ChatGPT fait plus de mal que de bien, à la fois au site et aux utilisateurs qui demandent ou recherchent la bonne réponse. »

Pour Stack Overflow, ce problème existe. Si le site est rempli d'exemples de code sans valeur, les programmeurs ne reviendront pas, sa base de données de plus de 30 millions de questions et réponses deviendra peu fiable et le site vieux de 14 ans mourra. En tant que l'une des ressources les plus essentielles sur lesquelles s'appuient les programmeurs du monde entier, elle a un impact énorme sur la qualité des logiciels et la productivité des développeurs.

Stack Overflow est le canari dans la mine de charbon. Ils pourraient être en mesure d'amener les utilisateurs à arrêter volontairement de l'utiliser ; d'une manière générale, les programmeurs n'ont pas de mauvaises intentions et pourraient être en mesure de les convaincre d'arrêter de déconner. Mais Stack Overflow n’est pas Twitter, ce n’est pas Facebook et il ne représente pas l’ensemble du Web.

Pour les autres mauvais acteurs qui créent délibérément de la publicité, il est peu probable qu'ils déposent de nouvelles armes de manière proactive. Au lieu de cela, ils pourraient utiliser de grands modèles de langage comme de nouvelles armes automatisées dans la guerre contre la vérité, perturbant les médias sociaux et produisant de faux sites Web à une échelle sans précédent. Pour eux, l’illusion et le manque de fiabilité occasionnel des grands modèles linguistiques ne sont pas un obstacle mais un avantage.

Dans un rapport de 2016, la Rand Corporation (Rand) a décrit le modèle dit de Firehose russe de propagande, qui crée un brouillard de fausses informations, se concentre sur la quantité et crée de l'incertitude. Si les « grands modèles linguistiques » peuvent augmenter considérablement leur nombre, peu importe s’ils sont incohérents. De toute évidence, c’est exactement ce que les grands modèles linguistiques peuvent faire. Leur objectif est de créer un monde où règne une crise de confiance ; avec l’aide de nouveaux outils, ils peuvent réussir.

Tout cela soulève une question clé : Comment la société répond-elle à cette nouvelle menace ? Là où la technologie elle-même ne peut pas s'arrêter, cet article envisage quatre voies, dont aucune n'est facile à suivre, mais elles sont largement applicables et urgentes :

Tout d'abord, Chaque entreprise de médias sociaux et moteur de recherche devrait soutenir l'interdiction de StackOverflow et étendez-le  ; le contenu trompeur généré automatiquement est voué à être impopulaire, et le publier régulièrement réduira considérablement le nombre d'utilisateurs.

Deuxièmement, chaque pays doit repenser ses politiques en matière de lutte contre la désinformation. C'est une chose de mentir occasionnellement ; c'en est une autre de nager dans une mer de mensonges. Au fil du temps, même si cette décision ne sera pas populaire, les fausses informations devront peut-être commencer à être traitées comme de la diffamation, qui pourra être poursuivie si elles sont suffisamment malveillantes et en quantité suffisante.

Troisièmement, la source est plus importante que jamais . Les comptes d'utilisateurs doivent être vérifiés plus rigoureusement, et les nouveaux systèmes comme l'Université de Harvard et humanid.org de Mozilla, qui permettent une authentification anonyme et anti-bot, doivent rendre la vérification obligatoire ; ils ne sont plus un luxe que les gens attendaient.

Quatrièmement, doit construire une nouvelle intelligence artificielle pour combattre . Les grands modèles linguistiques sont efficaces pour générer de la désinformation, mais pas pour la combattre. Cela signifie que la société a besoin de nouveaux outils. Les grands modèles de langage manquent de mécanismes pour vérifier la vérité ; de nouvelles façons doivent être trouvées pour les intégrer aux outils classiques d’IA, tels que les bases de données, les réseaux de connaissances et l’inférence.

L'auteur Michael Crichton a passé une grande partie de sa carrière à avertir les gens des conséquences involontaires de la technologie. Au début du film "Jurassic Park", avant que les dinosaures ne commencent à se libérer de manière inattendue, le scientifique Ian Malcolm (Jeff Goldblum) résume la sagesse de Clayton en une phrase : "Vos scientifiques sont tellement concentrés sur leur capacité qu'ils ne s'arrêtent pas. pour réfléchir s'ils devraient le faire. »

Comme le directeur de Jurassic Park, les dirigeants de Meta et d'OpenAI sont passionnés par leurs outils.

La question est, que faire.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!