OpenAI publie le plug-in ChatGPT, ce qui suscite des inquiétudes : la qualité et la sécurité du contenu doivent être mesurées

Actualités Jeudi 24 mars, heure locale des États-Unis, la société de recherche en intelligence artificielle OpenAI a publié plusieurs plug-ins pour son populaire chatbot ChatGPT. Ils aideront ChatGPT à se connecter au réseau pour récupérer des informations en temps réel. ou utiliser des applications tierces.

Il est rapporté que le plug-in d'OpenAI permettra à ChatGPT d'accéder à des sources de connaissances et à des bases de données tierces, y compris Internet, élargissant ainsi considérablement les capacités du chatbot. OpenAI fournira la version Alpha aux utilisateurs et développeurs de l'application de test ChatGPT. La priorité sera dans un premier temps donnée à un petit nombre de développeurs et d'abonnés ChatGPT Plus avant d'être rendu accessible au grand public.

Le plug-in le plus attractif est sans aucun doute le plug-in de navigation Web propriétaire d'OpenAI, qui permet à ChatGPT de trouver des données sur le Web pour répondre aux diverses questions qui lui sont posées. Auparavant, le contenu informatif de ChatGPT était limité aux dates, événements et personnes avant septembre 2021. Le nouveau plug-in utilise l'API de recherche Bing de Microsoft pour récupérer le contenu du Web, tout en affichant les sites Web visités lors de la synthèse des réponses et en citant ses sources dans les réponses de ChatGPT.

Cependant, la possibilité d'accéder à d'autres sources d'informations en ligne peut présenter de nouveaux risques, comme l'ont montré des recherches antérieures menées par l'équipe OpenAI. OpenAI a créé un système expérimental appelé WebGPT en 2021, qui citait parfois des informations provenant de sources peu fiables et était incité à sélectionner des données sur des sites Web auxquels les utilisateurs peuvent faire confiance, même si ces sources ne font pas objectivement autorité. Le BlenderBot 3.0 hors ligne de Meta avait également accès à Internet, mais il s'est rapidement écarté de la vision originale. Lorsqu’il est invité par certains textes, il publie des théories du complot ou d’autres contenus offensants.

Les réseaux en direct sont moins précis que les ensembles de données d'entraînement statiques, ce qui signifie moins de restrictions de filtrage. ​​Google​​et Bing, etc.​​Les moteurs de recherche​​utilisent leurs propres mécanismes de sécurité pour réduire le risque que du contenu peu fiable apparaisse en haut des résultats de recherche, mais ces résultats peuvent être manipulés et ils peuvent pas forcément capable de représenter l’ensemble du réseau. Comme indiqué précédemment, l’algorithme de Google donne la priorité aux sites qui utilisent des technologies Web modernes telles que le cryptage, la prise en charge mobile et le balisage de schéma. Par conséquent, de nombreux sites Web proposant d’autres contenus de haute qualité ont tendance à être manqués.

Cela donne aux moteurs de recherche beaucoup de pouvoir pour sélectionner les données qui peuvent éclairer les réponses aux modèles de langage Web. Il a été constaté que Google donnait la priorité à ses propres services de recherche, comme répondre aux requêtes de voyage avec les données de Google Places, plutôt que de regrouper des informations provenant de sources plus riches et plus sociales comme TripAdvisor. Dans le même temps, les approches algorithmiques de recherche sont également sujettes à des failles. En 2020, Pinterest a exploité une anomalie dans l'algorithme de recherche d'images de Google pour afficher davantage de contenu dans Google Image Search.

OpenAI reconnaît qu'un ChatGPT compatible Internet pourrait être ouvert à tous les types de mauvais comportements, tels que l'envoi de messages frauduleux et de spams, le contournement des restrictions de sécurité et, de manière générale, "l'amélioration des capacités des mauvais acteurs qui pourraient tromper, induire en erreur ou abuser". d'autres."capacité". Mais l'entreprise a également déclaré avoir « mis en place plusieurs mesures de protection » en interne et en externe pour éviter que cela ne se produise.

En plus du plug-in de navigateur, OpenAI fournit également un interpréteur Python pour le modèle derrière ChatGPT qui fonctionne dans un bac à sable, un environnement d'exécution de pare-feu et un espace disque temporaire. Ce plugin prend en charge le téléchargement de fichiers sur ChatGPT et le téléchargement des résultats. OpenAI affirme qu'il est particulièrement utile pour résoudre des problèmes mathématiques, effectuer des analyses de données, des visualisations et des conversions entre formats de fichiers.

De nombreux premiers collaborateurs ont créé des plugins pour ChatGPT, notamment Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram et Zapier.

Pour la plupart, le but de ces plugins est explicite. Par exemple, le module complémentaire OpenTable permettra au chatbot de rechercher dans les restaurants les réservations disponibles, tandis que le module complémentaire Instacart permettra à ChatGPT de passer des commandes dans les magasins locaux. Zapier est l'une des applications les plus évolutives jamais créées, se connectant à des applications telles que Google Sheets, Trello et Gmail pour déclencher une gamme de tâches liées à la productivité.

Pour encourager les développeurs à créer de nouveaux plug-ins, OpenAI a open source un plug-in de « récupération » qui permet à ChatGPT d'accéder à des fragments de documents à partir de sources de données telles que des fichiers, des notes, des e-mails ou des documents publics en posant des questions en langage naturel. . OpenAI a publié : "Nous travaillons dur pour développer divers plug-ins et les proposer à un public plus large. Nous avons encore beaucoup à apprendre et avec votre aide, nous espérons créer quelque chose à la fois pratique et sûr."

Pour ChatGPT, les plug-ins sont un complément indispensable. ChatGPT était autrefois strictement limité à l'apprentissage de ses données de formation, mais avec le plug-in, il est soudainement devenu plus puissant et peut-être moins risqué sur le plan juridique. De nombreux experts ont accusé OpenAI de profiter de la formation de ChatGPT sur des données sans licence. L'ensemble de données de ChatGPT contient une grande variété de sites Web publics, et le plugin pourrait résoudre ce problème en permettant aux entreprises de conserver un contrôle total sur leurs données. (Xiao Xiao)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!