Maison  >  Article  >  développement back-end  >  ell : révolutionner l'ingénierie rapide avec une élégance fonctionnelle

ell : révolutionner l'ingénierie rapide avec une élégance fonctionnelle

Patricia Arquette
Patricia Arquetteoriginal
2024-09-22 18:29:211070parcourir

Dans le monde en évolution rapide de l'intelligence artificielle et du traitement du langage naturel, un nouvel acteur est apparu qui promet de révolutionner la façon dont nous travaillons avec les modèles de langage. Découvrez ell, une bibliothèque d'ingénierie d'invites légère qui traite les invites comme des fonctions, apportant une nouvelle perspective au domaine. Développé par William Guss, anciennement d'OpenAI, ell s'appuie sur des années d'expérience dans la création et l'utilisation de modèles de langage dans des environnements de recherche et de startup.

Démarrage rapide

Pour démarrer avec ell, vous pouvez retrouver la bibliothèque et sa documentation sur GitHub :
https://github.com/MadcowD/ell

À propos du Créateur

ell est l'idée originale de William Guss, chercheur et ingénieur ayant une formation chez OpenAI. L'expérience de Guss dans le domaine de l'IA et des modèles de langage a éclairé les principes de conception derrière ell, ce qui en fait un outil puissant qui répond aux défis du monde réel en matière d'ingénierie rapide.

Repenser les invites en tant que programmes

Au cœur de la philosophie d'Ell se trouve l'idée selon laquelle les invites sont plus que de simples chaînes de texte : ce sont des programmes. Ce changement de paradigme s'incarne dans l'approche d'ell en matière de création de programmes de modèles de langage (LMP). À l'aide des décorateurs Python, les développeurs peuvent facilement définir les LMP en tant que fonctions, encapsulant tout le code qui génère des invites ou des listes de messages pour différents modèles de langage.

@ell.simple(model="gpt-4o-mini")
def hello(world: str):
    """You are a helpful assistant"""
    name = world.capitalize()
    return f"Say hello to {name}!"

result = hello("sam altman")

Cette approche simplifie non seulement l'interface pour les utilisateurs, mais fournit également une structure claire et modulaire pour les tâches d'ingénierie rapides et complexes.

Renforcer le processus d'optimisation

Reconnaissant que l'ingénierie rapide est un processus d'optimisation itératif, ell propose des outils robustes pour prendre en charge ce flux de travail. La bibliothèque fournit une gestion automatique des versions et une sérialisation des invites, similaires au point de contrôle dans les boucles de formation d'apprentissage automatique. Cette fonctionnalité permet aux développeurs de suivre les modifications, de comparer les versions et de revenir facilement aux itérations précédentes en cas de besoin.

Visualisation et surveillance simplifiées

Pour transformer l'ingénierie rapide d'un « art sombre » en une science, ell présente Ell Studio. Cet outil local et open source offre des fonctionnalités de contrôle de version, de surveillance et de visualisation. Avec Ell Studio, les développeurs peuvent suivre empiriquement leur processus d'optimisation rapide au fil du temps et détecter les régressions avant qu'elles ne deviennent problématiques.

ell: Revolutionizing Prompt Engineering with Functional Elegance

Adopter le calcul au moment du test

La décomposition fonctionnelle des problèmes d'ell facilite la mise en œuvre de techniques basées sur le calcul au moment du test. Cette approche permet aux développeurs de créer des solutions d'ingénierie rapides plus sophistiquées et plus efficaces qui impliquent plusieurs appels à un modèle de langage.

Valoriser chaque appel de modèle de langage

Reconnaissant l'importance de chaque invocation de modèle de langage, ell enregistre éventuellement chaque appel localement. Cette fonctionnalité ouvre la possibilité de générer des ensembles de données d'invocation, de comparer les sorties LMP par version et d'explorer le spectre complet des artefacts d'ingénierie d'invite.

Flexibilité dans la complexité

ell offre à la fois simplicité et complexité selon les besoins. Alors que le décorateur @ell.simple produit des sorties de chaîne simples, le décorateur @ell.complex peut être utilisé pour des scénarios plus avancés, notamment l'utilisation d'outils et la gestion des sorties multimodales.

Support de première classe pour la multimodalité

À mesure que les modèles linguistiques évoluent pour traiter et générer divers types de contenu, ell suit le rythme en rendant l'ingénierie d'invites multimodales aussi intuitive que l'utilisation de texte. La bibliothèque prend en charge la coercition de types riches pour les entrées et sorties multimodales, permettant aux développeurs d'incorporer de manière transparente des images, de l'audio et d'autres types de données dans leurs LMP.

Intégration transparente dans les flux de travail existants

L'une des caractéristiques les plus attrayantes d'Ell est peut-être sa nature discrète. Les développeurs peuvent continuer à utiliser leurs IDE et styles de codage préférés tout en tirant parti des puissantes fonctionnalités d'ell. Cette philosophie de conception permet une adoption progressive et une migration facile à partir d'autres bibliothèques comme langchain.

En conclusion, ell représente une avancée significative dans le domaine de l'ingénierie rapide. En traitant les invites comme des programmes, en fournissant des outils robustes d'optimisation et de visualisation et en offrant une prise en charge flexible des scénarios complexes et multimodaux, ell permet aux développeurs de créer des applications de modèle de langage plus efficaces et efficientes. À mesure que le paysage de l'IA continue d'évoluer, des outils comme ell joueront un rôle crucial dans l'élaboration de l'avenir du traitement du langage naturel et au-delà.

To explore ell and start using it in your projects, visit the GitHub repository at https://github.com/MadcowD/ell. With William Guss's expertise from OpenAI behind its development, ell promises to be a valuable asset in any AI developer's toolkit.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn