OpenAI lance une mise à jour majeure de l'API de chatbot GPT pour les développeurs et baisse les prix

News le 14 juin, OpenAI a annoncé aujourd'hui une mise à jour majeure de son API de grand modèle de langage (y compris GPT-4 et gpt-3.5-turbo), notamment l'ajout de nouvelles fonctions d'appel de fonctions, la réduction des coûts d'utilisation et la prise en charge de gpt. - Le modèle 3,5 turbo propose une version à 16 000 jetons.

Le Large Language Model (LLM) est une technologie d'intelligence artificielle capable de traiter le langage naturel. Sa « fenêtre contextuelle » est équivalente à une mémoire à court terme qui peut stocker le contenu d'entrée ou le contenu des dialogues du chatbot. Dans les modèles de langage, augmenter la taille de la fenêtre contextuelle est devenu une course technique, et Anthropic a récemment annoncé que son modèle de langage Claude peut fournir 75 000 options de fenêtre contextuelle de jetons. De plus, OpenAI a également développé une version GPT-4 à 32 000 jetons, mais elle n'a pas encore été lancée publiquement.

OpenAI vient de lancer une nouvelle version de gpt-3.5-turbo avec 16 000 fenêtres contextuelles, nommée "gpt-3.5-turbo-16k", qui peut gérer des entrées jusqu'à 16 000 jetons de longueur, ce qui signifie qu'environ 20 peuvent être traités en même temps. un temps de pages de texte, ce qui constitue une grande amélioration pour les développeurs qui ont besoin de modéliser le traitement et de générer des blocs de texte plus volumineux.

En plus de ce changement, OpenAI répertorie au moins quatre autres nouvelles fonctionnalités majeures :

• Introduction des capacités d'appel de fonctions dans l'API Chat Completions
• Versions améliorées de GPT-4 et gpt-3.5-turbo et Le "plus orientable" version
• a réduit le prix du modèle embarqué "ada" de 75%
• a réduit le prix du jeton d'entrée du modèle gpt-3.5-turbo de 25%

La fonction d'appel de fonction permet le développement Cela facilite la tâche pour aux développeurs de créer des chatbots capables d'appeler des outils externes, de convertir le langage naturel en appels d'API externes ou d'effectuer des requêtes de base de données. Par exemple, il peut convertir une entrée telle que « Envoyer un e-mail à Anya pour voir si elle veut un café vendredi prochain » en un appel de fonction comme « send_email (to : string, body : string) ». En particulier, cette fonctionnalité permet également aux utilisateurs d’API de générer plus facilement une sortie au format JSON, ce qui était auparavant difficile à réaliser.

Concernant l'aspect « plus contrôlable », qui est un terme technique désignant comment faire en sorte que LLM se comporte comme vous le souhaitez, OpenAI indique que son nouveau modèle « gpt-3.5-turbo-0613 » inclura « des mises à jour via des messages système ». Fonction de contrôle fiable. Un message système est une instruction spéciale entrée dans l'API qui indique au modèle comment se comporter, par exemple "Vous êtes Grimes et vous ne parlez que de milkshakes."

En plus des améliorations fonctionnelles, OpenAI permet également une réduction des coûts assez substantielle. Notamment, le prix symbolique du modèle populaire gpt-3.5-turbo est réduit de 25 %. Cela signifie que les développeurs peuvent désormais utiliser ce modèle pour environ 0,0015 USD pour 1 000 jetons et 0,002 USD pour 1 000 jetons, ce qui équivaut à environ 700 pages de texte par dollar. Le modèle gpt-3,5-turbo-16k est au prix de 0,003 USD pour 1 000 jetons et de 0,004 USD pour 1 000 jetons.

De plus, IT House a remarqué qu'OpenAI a également réduit de 75 % le prix de son modèle d'intégration « text-embedding-ada-002 ». Les modèles d'intégration sont une technique qui permet aux ordinateurs de comprendre des mots et des concepts, en convertissant le langage naturel en un langage numérique que les machines peuvent comprendre, ce qui est important pour des tâches telles que la recherche de texte et la recommandation de contenu pertinent.

Étant donné qu'OpenAI met constamment à jour ses modèles, les anciens modèles ne persisteront pas. Aujourd'hui, la société a également annoncé qu'elle commençait à retirer certaines versions antérieures du modèle, notamment gpt-3.5-turbo-0301 et gpt-4-0314. Les développeurs peuvent continuer à utiliser ces modèles jusqu'au 13 septembre, après quoi ces anciens modèles ne seront plus disponibles, a indiqué la société. Il convient de noter que l’API GPT-4 d’OpenAI est toujours sur la liste d’attente et n’est pas encore complètement ouverte.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!