Comment AI Agent envisage la conception au niveau de l'entreprise

Après l'explosion des modèles à grande échelle cette année, la technologie actuelle de l'intelligence artificielle en est encore au stade du système de deuxième génération et n'a pas encore atteint le niveau de l'intelligence artificielle générale (AGI). Cependant, dans certains domaines, AI Agent peut déjà être utilisé pour le traitement. En tant qu'application côté B typique, comment concevoir un agent IA qui répond aux besoins de l'entreprise ?

Avec le développement rapide de l'intelligence artificielle, divers modèles, produits et outils avancés à grande échelle émergent les uns après les autres. En tant que chef de produit côté B, nous devons adopter activement cette technologie d'intelligence artificielle transformatrice et l'appliquer à notre propre entreprise pour garantir que l'efficacité de l'entreprise ne soit pas à la traîne du développement de l'industrie

D'une manière générale, si une entreprise ne développe pas de manière indépendante des modèles à grande échelle, elle doit s'appuyer sur des capacités de modèles tiers à grande échelle pour développer des capacités d'IA afin de créer des produits ou des outils d'IA adaptés à l'entreprise elle-même.

Comme le montre la figure ci-dessous, les orientations courantes des modèles à grande échelle incluent le traitement du langage naturel (NLP), le multimodal (multimodal) et la reconnaissance vocale. Les grands fabricants de modèles organisent des formations en IA basées sur des capacités dans des directions spécifiques, permettant à l'IA de remplacer les humains dans des tâches « reproductibles » et « standardisables » dans certains domaines.

L'image est tirée de "Battle of Hundreds of Models!" d'Open Privacy Computing. Pour quel grand modèle d’IA êtes-vous le plus optimiste ? 》

Afin de déterminer les capacités d'IA requises pour notre entreprise, nous devons mener des recherches sur les modèles d'IA correspondants et évaluer les capacités de sortie des grands modèles. Nous pouvons évaluer de grands modèles sous plusieurs aspects tels que le rappel, la précision, la sécurité, l'interprétabilité, la stabilité, le coût et le potentiel de développement, pour finalement sélectionner un grand modèle qui répond à nos besoins. Sur ce sujet, j'ai détaillé comment choisir un grand modèle qui vous convient dans un précédent article.

Cependant, la technologie actuelle de l'IA en est encore au stade du système de deuxième génération et n'a pas encore atteint le niveau AGI. Il existe encore quelques problèmes avec les modèles à grande échelle actuellement accessibles, notamment sur les aspects suivants :

1. Illusion de l'IA :

L'illusion de l'IA fait référence aux limites de l'intelligence artificielle en termes de mémoire des connaissances, de capacité de compréhension, de méthodes de formation et de technologie de modèle, ce qui conduit à des performances inexactes ou peu fiables dans les résultats de sortie. Les problèmes courants incluent le biais des données et une mauvaise interprétabilité

En raison de l'existence de l'illusion de l'IA, même si nous nous attendons à ce que l'IA soit capable de produire des solutions fiables de manière stable, il y aura toujours une certaine proportion de mauvaises réponses. Par exemple, si l’IA est précise à 50 % dans un certain domaine, il y aura 25 mauvaises réponses sur 50. Pour les entreprises qui exigent une grande précision, l’IA ne peut pas être appliquée directement.

2. Réponses aux questions de conformité

L'essence de l'IA est de prédire les résultats sur la base de statistiques et n'a pas la capacité de juger clairement le bien et le mal. Par conséquent, lorsqu’il s’agit de questions éthiques, juridiques et autres, l’IA ne peut pas porter de jugements ou de distinctions précis, ce qui peut avoir un impact négatif sur l’entreprise

3. Pas assez natif :

Actuellement, la méthode d'interaction de l'intelligence artificielle se fait principalement par entrées-sorties. Les utilisateurs saisissent du contenu et l’intelligence artificielle produit des résultats. Cependant, ce procédé n'est pas adapté aux habitudes d'utilisation de tous les personnels de l'entreprise

Prenons l'exemple du scénario de traduction. Le processus métier d'un traducteur comprend généralement les étapes suivantes :

1. Déterminer les besoins en traduction : confirmez la langue source, la langue cible, le style de traduction, les différences culturelles dans les différentes régions et les plans d'adaptation, etc.
2. Traduction par lots : les tâches de traduction impliquent généralement plusieurs éléments de contenu et les traducteurs doivent effectuer le traitement par lots en même temps.
3. Relecture : une fois la traduction terminée, elle doit être relue par un relecteur pour déterminer si elle répond aux besoins de l'entreprise.
4. Modification : Si le résultat de la traduction ne répond pas aux besoins, il doit être modifié. Une fois la révision terminée, poursuivez le processus de traduction, de relecture et de révision jusqu'à ce que la révision soit approuvée.
5. Livraison : appliquez le contenu de relecture à votre entreprise.

Cependant, si vous souhaitez utiliser l'IA pour la traduction afin de réduire les coûts de main-d'œuvre, l'utilisation directe de la méthode d'interaction de saisie de dialogue de grands modèles de langage entraînera les problèmes suivants :

1) Interrompre le flux de travail existant et rendre difficile le développement d'habitudes d'utilisation :

L'utilisation de grandes fenêtres de dialogue de modèle de langage interrompra le processus métier du travail de traduction original. À l'origine, il vous suffisait de terminer le travail sur l'outil ou le document de traduction. Après avoir rejoint le dialogue du modèle à grande échelle, chaque texte traduit nécessite une interaction de saisie dans la zone de saisie.

2) La limite supérieure d'augmentation des coûts de fonctionnement :

Les modèles linguistiques à grande échelle ont des limites en termes de durée de conversation. Si le contenu de la traduction est volumineux, l'interaction doit être effectuée par lots, ce qui augmentera les coûts de main-d'œuvre.

3) Augmentation des coûts de fonctionnement pour répondre à des besoins particuliers de traduction :

S'il existe des besoins de traduction spécifiques, tels que la traduction terminologique ou la spécification d'un style de traduction, une interaction est requise à chaque fois, ce qui consomme encore plus de main d'œuvre.

Les problèmes ci-dessus empêchent l’IA d’améliorer efficacement l’efficacité de la traduction commerciale. En raison de la lourdeur de l'opération, il est difficile pour les utilisateurs de prendre des habitudes d'utilisation. Ils pensent souvent inconsciemment qu'il est préférable de traduire directement par eux-mêmes plutôt que d'utiliser l'IA, le coût de remplacement est donc élevé.

De plus, la traduction IA a un problème d'illusion et ne peut pas offrir une expérience utilisateur au-delà des attentes.

Ainsi, [(nouvelle expérience-ancienne expérience)-coût de remplacement] n'est pas supérieur à 0 L'utilisation directe de la méthode d'interaction native de l'IA ne peut pas améliorer efficacement les tarifs commerciaux, des méthodes plus natives sont donc nécessaires.

1. Qu'est-ce que l'agent IA

Au vu des défis actuels auxquels est confrontée l’intelligence artificielle, nous devons réfléchir à la manière de construire nos propres applications côté B. Une solution possible consiste à essayer de créer un agent IA personnalisé pour l'entreprise

Le soi-disant agent AI, également connu sous le nom d'agent d'intelligence artificielle, fait référence à un programme automatisé capable de comprendre, d'apprendre et d'effectuer des tâches. Cela peut être comparé à « traiter l’IA comme un stagiaire et lui permettre d’effectuer des tâches insignifiantes, alors que nous sommes chargés de guider ce stagiaire pour garantir que ses résultats répondent aux résultats attendus ».

Contrairement aux grands modèles, les méthodes d'interaction d'AI Agent ne se limitent pas à inviter les gens. Il s’agit d’un système basé sur des objectifs de travail spécifiques et produisant des résultats qui répondent aux besoins. Le cœur d'AI Agent est un grand modèle, qui comprend également des extensions du module de perception, du module de planification et du module d'action

1. Module de perception : Le module de perception rassemble les données en mots rapides à saisir via des connexions avec des sources de données commerciales et des sources de données externes.
2. Module d'action : Le module d'action peut effectuer les opérations commerciales correspondantes en fonction des résultats de la perception et de la planification grâce à la connexion avec l'interface de capacité commerciale. En outre, les données de feedback dans la pratique commerciale peuvent également être optimisées grâce au système de feedback avec des codes, des stratégies et des mots d'invite.
3. Module de planification : Le module de planification est le cœur d'AI Agent. En plus de tirer parti de la capacité des grands modèles, il est également nécessaire de concevoir en fonction des besoins métier combinés à la logique du code. Ici, nous devons concevoir le fonctionnement du cerveau et adopter des méthodes d’entrée et de sortie appropriées pour piloter les affaires.

2. Comment concevoir un agent IA

Alors comment concevoir un agent IA qui répond aux besoins de l'entreprise ?

1. Trouvez le bon scénario commercial

Tout d'abord, nous devons déterminer le scénario adapté à l'agent IA et évaluer l'adéquation du scénario sélectionné en simulant l'entrée des données et en collectant les résultats de sortie. Lors de l’évaluation des résultats, il est nécessaire d’examiner s’ils répondent aux attentes. Si les résultats ne sont pas ceux attendus, vous devez évaluer la gravité de l’erreur et s’il est possible d’améliorer la précision et le rappel. S'il y a place à l'amélioration, l'IA peut être adaptée pour répondre aux besoins de notre scène en optimisant les mots d'invite ou en introduisant la construction de modules de perception, d'action et de planification.

2. Triez les attentes d'entrée et de sortie

Nous devons clarifier les « objectifs » et les « exigences » de l'agent IA afin de déterminer ce que nous saisissons et ce que l'agent doit produire.

Sur la base de ces « objectifs » et « exigences », nous devrions réfléchir à la manière de choisir les méthodes d'entrée et de sortie appropriées pour répondre aux besoins de l'entreprise et lui donner du pouvoir. Cela nous aidera à concevoir le processus de sortie ultérieur et à l'évaluer pendant la phase de vérification de la conception pour déterminer s'il répond aux exigences.

3. Triez le processus de sortie

Lorsque nous sommes confrontés à des exigences de sortie complexes, nous devons concevoir plusieurs processus de conversation d'IA afin que les différentes IA puissent collaborer les unes avec les autres pour finalement obtenir des résultats de sortie qui répondent aux exigences. Par exemple, dans les scénarios de classification de texte, nous pouvons d'abord utiliser le grand modèle de la version 3.5 pour une classification précise de premier niveau afin de répondre aux besoins.

Étant donné que le coût de la version 4.0 est des dizaines de fois supérieur à celui de la version 3.5 et que la version 3.5 est suffisante pour la classification de premier niveau, vous pouvez choisir d'utiliser la version 3.5 pour réduire les coûts. Ensuite, nous pouvons utiliser la version 4.0 pour la classification secondaire afin d'obtenir de meilleurs résultats de classification et de garantir que nous produisons le contenu requis.

Lors de la conception du processus, vous devez prendre en compte les facteurs suivants :

• Facteurs de coût : les coûts des différents grands modèles et de leurs versions sont différents. Nous devons peser les avantages commerciaux et choisir un plan d'utilisation raisonnable des grands modèles pour éviter de perdre plus que le gain.
• Facteurs d'effet : Les effets des différents grands modèles et de leurs versions sont différents, et ils ont leurs atouts dans différents domaines. Nous devons choisir la solution la plus adaptée en fonction des besoins d'utilisation.

Après avoir examiné de manière approfondie les facteurs de coût et d'efficacité, nous avons finalement déterminé un plan adapté

4. Mécanisme d'inspection de sortie

Afin d'éviter que le contenu trompeur des résultats de l'IA n'affecte l'entreprise, nous devons établir un mécanisme de vérification efficace. Les méthodes de vérification courantes incluent la correspondance de lexique, la correspondance d'expressions régulières et l'inspection manuelle. Bloquez le contenu trompeur en utilisant un thésaurus ou des moyens manuels. En outre, nous pouvons également créer un agent d'inspection de la qualité pour permettre à l'IA elle-même d'effectuer une inspection de la qualité sur la sortie afin de filtrer le contenu problématique et d'améliorer le taux de détection du contenu trompeur.

5. Solution d'illusion

La survenue d'hallucinations est un phénomène qui ne peut être complètement éradiqué. Afin d'éviter des effets néfastes sur notre entreprise, nous devons formuler un plan de sécurité, tel que :

1) Inspection manuelle : avant que la sortie de l'IA ne soit transmise à l'utilisateur, un lien d'inspection manuelle est introduit. Ce n'est qu'une fois l'inspection manuelle réussie que les résultats sont transmis à l'utilisateur. De cette façon, nous pouvons parfaitement empêcher l’illusion de l’IA d’avoir un impact négatif sur les entreprises, et nous pouvons également utiliser les résultats de l’IA pour améliorer l’efficacité. Cependant, cette méthode nécessite un examen humain, elle augmentera donc certains coûts de main-d'œuvre.

2) Packaging raisonnable : étant donné que nous sommes une application d'IA pour la face B, nous pouvons utiliser des méthodes telles que le packaging de l'application de sortie en tant qu'"assistant IA" pour faire comprendre directement aux utilisateurs : "Les résultats de sortie ici sont générés par l'IA et sont à titre de référence seulement. De cette façon, nous pouvons permettre aux utilisateurs de former des attentes psychologiques raisonnables et d’éviter les réactions indésirables en cas de production hallucinatoire.

3. Résumé

Sur la base des idées ci-dessus, nous pouvons créer des agents de traduction côté B, des agents de classification des données, des agents de service client intelligents et d'autres services. Bien sûr, ce ne sont là que quelques-unes de mes réflexions personnelles.

Veuillez voter pour moi

Je participe à la sélection Tout le monde est chef de produit 2023. J'espère que les amis qui aiment mes articles pourront venir me soutenir~

.

Cliquez sur le lien ci-dessous pour accéder à ma page de candidature personnelle et cliquez sur le cœur rouge pour voter pour moi.

Chaque personne peut voter jusqu'à 30 votes par jour. En votant, vous aurez une chance de gagner à la loterie et vous recevrez des cadeaux tels que des livres, des périphériques commémoratifs Tout le monde est un chef de produit et une adhésion à la classe Starting Point !

Veuillez cliquer sur le lien ci-dessous pour voter : https://996.pm/7d9yE

Chroniqueur

Le gâteau au citron est propre et hygiénique. Compte officiel : Le gâteau au citron est propre et hygiénique. Tout le monde est chroniqueur chef de produit. Un produit B-end dans l'industrie du jeu. Il a été responsable du contenu lié au CRM, au contrôle des risques, à la BI, au SDK et à l'IA dans l'industrie du jeu. Il publie régulièrement des réflexions personnelles ou des articles de synthèse ~

.

Cet article a été initialement publié sur Tout le monde est un chef de produit. La réimpression sans autorisation est interdite

.

L'image du titre provient d'Unsplash, basée sur la licence CC0

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!