Le deuxième produit d'IA de Musk, PromptIDE, est annoncé, et le développement de Grok en est indissociable

Commentaires des internautes : La vitesse de développement de l'équipe xAI est trop rapide ! Tout simplement incroyable !

Cela ne fait qu'un jour depuis que xAI de Musk a annoncé Grok. Tout à l'heure, xAI a annoncé un autre produit d'IA, un environnement de développement intégré qui peut être utilisé pour des recherches rapides d'ingénierie et d'interprétabilité : PromptIDE.

Les sorties continues de nouveaux produits ont également fait soupirer les internautes : « La vitesse de développement de l'équipe xAI est tout simplement folle ! Il accélère le projet d'invite via le SDK, et le SDK peut compléter une technologie d'invite complexe, et peut également effectuer une analyse des résultats, visualiser la sortie du réseau, etc.

Il convient de noter que xAI a largement utilisé cette technologie dans le développement de Grok.

Avec PromptIDE, les ingénieurs et les chercheurs peuvent accéder de manière transparente aux modèles Grok-1 (les modèles qui alimentent Grok). L'IDE aide les utilisateurs à explorer rapidement les capacités de notre grand modèle (LLM). Au cœur de l'EDI se trouve un éditeur de code Python qui, combiné au nouveau SDK, permet une technologie d'invite sophistiquée. Lors de l'exécution de l'invite dans l'EDI, les utilisateurs verront des analyses utiles, telles que la probabilité d'échantillonnage, le masque d'attention agrégé, etc.

L'IDE enregistre automatiquement toutes les invites et dispose d'un contrôle de version intégré, et permet également aux utilisateurs de comparer le résultat de différentes technologies d'invite. Enfin, les utilisateurs peuvent télécharger de petits fichiers tels que des fichiers CSV et les lire à l'aide d'une seule fonction Python dans le SDK. Combinés aux fonctionnalités de concurrence du SDK, même les fichiers légèrement plus volumineux peuvent être traités rapidement.

Ce qui suit est une démonstration des principales fonctions de l'IDE.

Éditeur de code et SDK

Le cœur de PromptIDE est l'éditeur de code + le SDK Python, où le SDK fournit un nouveau paradigme de programmation qui peut implémenter une technologie d'invite complexe.

Comme le montre la figure ci-dessus, les utilisateurs peuvent utiliser la fonction prompt () pour ajouter manuellement des jetons au contexte, ou ils peuvent utiliser la fonction sample () pour générer des jetons en fonction du contexte.

De plus, plusieurs Web Workers peuvent s'exécuter simultanément, ce qui signifie que les utilisateurs peuvent exécuter plusieurs invites en parallèle.

Les utilisateurs peuvent également utiliser plusieurs contextes dans le même programme pour mettre en œuvre des techniques d'invite complexes. Si une fonction est annotée avec le décorateur @prompt_fn, elle sera exécutée dans son propre nouveau contexte et la fonction pourra effectuer certaines opérations indépendamment de son contexte parent. Ce paradigme de programmation prend en charge les invites récursives et itératives avec des sous-contextes arbitrairement imbriqués.

Concurrence : le SDK utilise des coroutines Python pour traiter simultanément plusieurs fonctions Python annotées @prompt_fn afin d'accélérer le processus temporel, en particulier lors du traitement des fichiers CSV.

Entrée utilisateur : l'invite peut être interagi via la fonction user_input (). La fonction user_input() renvoie une chaîne saisie par l'utilisateur, qui peut ensuite être ajoutée au contexte via la fonction prompt(). Grâce à ces API, un chatbot peut être implémenté avec seulement quatre lignes de code :

Fichiers : les développeurs peuvent télécharger des fichiers plus petits sur PromptIDE (jusqu'à 5 Mo par fichier, jusqu'à 50 Mo au total) et les ajouter dans une invite d'utilisation. les fichiers qu'ils ont téléchargés. La fonction read_file() renvoie tout fichier téléchargé sous forme de tableau d'octets. Celles-ci, combinées aux fonctionnalités de concurrence mentionnées ci-dessus, permettent le traitement par lots des invites.

Analyse : lors de l'exécution de l'invite, les utilisateurs verront une analyse détaillée des jetons pour les aider à mieux comprendre la sortie du modèle.

Lorsque l'utilisateur utilise la fonction user_input(), une zone de texte s'affiche dans la fenêtre où l'utilisateur peut saisir une réponse. La capture d'écran ci-dessous montre le résultat de l'exécution de l'extrait de code du chatbot répertorié ci-dessus.

Enfin, lorsqu'il n'est pas nécessaire de visualiser le token, le contexte peut également être présenté en markdown pour améliorer la lisibilité.

^{Lien de référence : https://x.ai/prompt-ide/}

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!