Construire une intelligence artificielle générative ne nécessite pas seulement de s'appuyer sur d'énormes modèles

L'essor rapide de l'intelligence artificielle générative (GenAI) pousse les entreprises à se démener pour trouver des moyens nouveaux et innovants d'exploiter la puissance de cette technologie dans les applications métier. De nombreuses entreprises pensent que les grands modèles de langage (LLM) ont remodelé la manière dont les applications métier basées sur l'IA sont créées. Il suffit d'introduire des données dans le modèle LLM et il fera le travail. Cependant, les choses ne sont pas si simples

Le cabinet de recherche et de conseil Forrester a publié un nouveau rapport soulignant que les applications commerciales GenAI nécessitent plus qu'un simple LLM à usage général. Même le LLM le plus soigneusement réglé et formé aux signaux peut ne pas suffire pour créer et exécuter en toute sécurité des applications basées sur GenAI. Cette approche simpliste ne permet pas aux organisations d’utiliser toutes leurs connaissances propriétaires pour travailler. Cela présente également d’autres risques, notamment des problèmes d’évolutivité, de sécurité et de coûts.

Le rapport de Forrester examine comment 15 des plus grands fournisseurs de services utilisent GenAI pour aider plus de 2 000 entreprises à travers le monde à développer des applications métier basées sur GenAI. Les conclusions du rapport indiquent que les entreprises doivent assembler une architecture « couches, portes et tuyaux » pour exécuter les applications basées sur GenAI de manière sûre et efficace.

L'architecture « Couches, portes et tuyaux » exploite les ressources de nombreuses couches intelligentes pour relier les fonctionnalités intérieures et extérieures. Cela nécessite également des portes de contrôle d’entrée et de sortie pour protéger les personnes, l’entreprise et le modèle lui-même. De plus, cela nécessite un pipeline d'applications pour inciter, intégrer et orchestrer la couche d'intelligence afin de transformer les requêtes en sorties. Enfin, une boucle de test et d’apprentissage est nécessaire pour tester et surveiller les résultats et procéder aux ajustements en conséquence.

En approfondissant les éléments de l'architecture « couches, portes et tuyaux », le rapport indique que la couche de renseignement comprend un large éventail de capacités, y compris des modèles GenAI généraux, intégrés et spécialisés.

Les ressources intelligentes que les organisations devraient créer et gérer elles-mêmes comprennent les applications logicielles, les modèles IA/ML, les modèles GenAI privés, les données structurées et non structurées, ainsi que les signaux et comportements des personnes. Les sources d'informations que les organisations devraient obtenir auprès des fournisseurs doivent inclure des modèles GenAI spécifiques à un domaine, des outils GenAI publics et des modèles GenAI groupés, tels que les applications SaaS.

Utilisez des portes d'entrée pour bloquer les mauvaises demandes, les fausses invites et les recherches dangereuses. Cela peut également transformer des demandes vagues en invites auxquelles il est possible de répondre. Les portes de sortie aident à valider le résultat des problèmes en fonction d'aspects tels que les besoins de conformité et la sécurité

Les pipelines d'applications sont utilisés pour connecter tout cela ensemble via des flux de travail axés sur l'API. Ils aident à combiner de manière transparente les ressources de la couche d’intelligence pour un flux fluide de bout en bout. Le dernier élément de l'architecture consiste à tester via une boucle de rétroaction de tests. Ils contribuent à renforcer la confiance et l'efficacité des applications

Selon le rapport Forrester, les entreprises ont désormais la possibilité d'assembler des applications à partir de parties disparates alors qu'elles construisent une structure complète pour prendre en charge les applications GenAI. Ce n'est qu'avec une attention particulière que les entreprises pourront bénéficier pleinement de la puissance des applications métier GenAI

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!