Les inconvénients de ChatGPT pour les systèmes d'IA conversationnelle de niveau production

​Traducteur | Bugatti

Reviewer | Sun Shujuan

ChatGP a attiré l'attention du monde entier avec ses réponses écrites détaillées et humaines, soulevant des questions sur la manière dont les gens devraient interagir avec cette discussion animée sur l'intelligence artificielle (IA). À bien des égards, ChatGPT est une version améliorée de son prédécesseur, GPT-3.5, mais il est toujours sujet aux truquages. Les experts affirment que pour les applications de niveau production, les développeurs d'IA pourraient envisager de combiner ChatGPT avec d'autres outils pour une solution complète.

ChatGPT et GPT-3.5 ont été développés par OpenAI et formés sur Microsoft Azure. Les deux sont des systèmes d'IA conversationnelle basés sur de grands modèles de langage, mais il existe des différences majeures.

Tout d'abord, Generative Pre-training Transformer (GPT) 3.5 est sorti plus tôt que ChatGPT, et son réseau neuronal comporte plus de couches que ChatGPT. GPT-3.5 a été développé comme un modèle de langage à usage général capable de gérer de nombreuses tâches, notamment la traduction de langues, la synthèse de texte et la réponse à des questions. OpenAI fournit un ensemble d'interfaces API pour GPT-3.5, qui offrent aux développeurs un moyen plus efficace d'accéder à ses fonctionnalités.

ChatGPT est basé sur GPT-3.5 et est développé spécifiquement en tant que chatbot (« agent conversationnel » est le terme préféré par l'industrie). Un facteur limitant est que ChatGPT n'a qu'une interface texte et aucune API. ChatGPT est formé sur un large éventail de textes de conversation et exécute les conversations mieux que GPT-3.5 et d'autres modèles génératifs. Les réponses sont générées plus rapidement que GPT-3.5 et leurs réponses sont plus précises.

Cependant, les deux modèles sont souvent inventés, ou comme les appellent les acteurs de l’industrie, « hallucinants ». Le taux d'hallucinations de ChatGPT se situe entre 15 % et 21 %. Dans le même temps, le taux d’hallucinations du GPT-3,5 est passé d’environ 20 % à 41 %, ChatGPT s’est donc amélioré à cet égard.

Moveworks, société de la Silicon Valley, utilise des modèles de langage et d'autres technologies d'apprentissage automatique sur sa plate-forme conversationnelle d'IA, qui est utilisée par des entreprises de nombreux secteurs. Jiang Chen, fondateur de l'entreprise et vice-président de l'apprentissage automatique, a déclaré que bien qu'il soit souvent inventé (un problème commun à tous les modèles de langage), ChatGPT constitue une amélioration majeure par rapport aux modèles d'IA précédents.

Chen a déclaré : « ChatGPT a vraiment impressionné et surpris les gens. » Chen était un ancien ingénieur de Google spécialisé dans le développement du moteur de recherche du géant de la technologie du même nom. "Ses capacités de raisonnement pourraient surprendre de nombreux praticiens de l'apprentissage automatique."

Moveworks utilise une variété de modèles de langage et d'autres techniques pour créer des systèmes d'IA personnalisés pour les clients. Il est un grand utilisateur de BERT, le modèle de langage open source proposé par Google il y a quelques années. L'entreprise utilise GPT-3.5 et a déjà commencé à utiliser ChatGPT.

Cependant, selon Chen, lorsqu'il s'agit de créer des systèmes d'IA conversationnelle de niveau production, ChatGPT a ses limites. Il y a plusieurs facteurs à prendre en compte lors de la création d'un système d'IA conversationnelle personnalisé utilisant ce type de technologie ; il est important de savoir où est tracée la ligne afin d'en construire un qui ne fournisse pas de mauvaises réponses, qui ne soit pas trop biaisé et qui ne fournisse pas de mauvaises réponses. Je ne fais pas attendre les gens trop longtemps.

Chen a déclaré que ChatGPT est meilleur que BERT pour générer des réponses significatives pour répondre aux questions. Plus précisément, ChatGPT possède des capacités de « raisonnement » plus puissantes que BERT, qui est conçu pour prédire le mot suivant dans une phrase.

Bien que ChatGPT et GPT-3.5 puissent fournir des réponses convaincantes pour répondre aux questions, leur nature fermée de bout en bout empêche des ingénieurs comme Chen de les former. Cela crée également un obstacle à la personnalisation des corpus pour des réponses spécifiques à un secteur (les détaillants et les fabricants utilisent des termes différents de ceux des cabinets d’avocats et des gouvernements). Cette nature fermée rend également plus difficile la réduction des préjugés, a-t-il déclaré.

BERT est suffisamment petit pour être hébergé par une entreprise comme Moveworks. L'entreprise a construit un pipeline de données qui collecte des données spécifiques à une entreprise et les alimente dans le modèle BERT à des fins de formation. Ce travail permet à Moveworks d'exercer un plus grand degré de contrôle sur le produit final d'IA conversationnelle, ce qui n'est pas possible dans des systèmes fermés comme GPT-3.5 et ChatGPT.

Chen a déclaré : « Notre pile d'apprentissage automatique est superposée. Nous utilisons BERT, mais nous utilisons également d'autres algorithmes d'apprentissage automatique, ce qui nous permet d'incorporer une logique spécifique au client et des données spécifiques au client

Chen Bien que les modèles OpenAI soient nombreux. plus grands et formés sur des corpus beaucoup plus importants, il n’y a aucun moyen de savoir s’ils conviennent à un client spécifique.

Il a déclaré : « Le modèle (ChatGPT) est pré-entraîné pour coder toutes les connaissances qui y sont introduites. Il n'est pas conçu pour effectuer lui-même une tâche spécifique. La raison pour laquelle il peut accélérer et atteindre une croissance rapide est due à l'architecture elle-même. est en fait assez simple. Ce sont des couches de la même chose, donc vous pouvez dire que cela se mélange à cause de l'architecture, vous savez qu'il a la capacité d'apprendre, mais vous ne savez pas quelles informations sont codées où. quelles couches de neurones codent les informations spécifiques que vous souhaitez déduire, c'est donc plutôt une boîte noire. »

Chen pense que ChatGPT est peut-être en hausse, mais son utilité en tant qu'outil de production pour l'IA conversationnelle est peut-être un peu exagérée. Une meilleure approche consiste à exploiter les atouts de plusieurs modèles, plutôt que de s'engager entièrement dans un modèle particulier, afin de mieux s'aligner sur les performances, la précision, les attentes en matière de biais et les capacités sous-jacentes de la technologie du client.

Il a déclaré : « Notre stratégie est d'utiliser une série de modèles différents à différents endroits. Vous pouvez utiliser le grand modèle pour enseigner le petit modèle, et le petit modèle sera alors beaucoup plus rapide. Par exemple, si vous voulez pour effectuer une recherche de segment d'analyse, vous devez utiliser... une sorte de modèle BERT, puis l'exécuter comme une sorte de moteur de recherche vectorielle. ChatGPT est trop gros pour cela. " Bien que ChatGPT puisse être d'une utilité limitée dans les applications du monde réel. environnements pour le moment. Mais cela ne veut pas dire que ce n’est pas important. Chen a déclaré que l'un des impacts durables que ChatGPT pourrait avoir est d'attirer l'attention des praticiens et d'inciter les gens à repousser les limites en termes d'efficacité de la technologie d'IA conversationnelle à l'avenir.

Il a déclaré : "Je pense que cela ouvre un champ. À l'avenir, à mesure que nous ouvrirons la boîte noire, je pense qu'il y aura des moyens et des applications plus intéressants. C'est ce qui nous passionne et nous y travaillons. »

Titre original :

​​Les inconvénients de ChatGPT pour les systèmes d'IA conversationnelle de production​​, auteur : Alex Woodie​

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!