OpenAI führt ein großes Update der GPT-Chatbot-API für Entwickler ein und senkt den Preis

Nachrichten vom 14. Juni: OpenAI hat heute ein umfangreiches Update seiner großen Sprachmodell-API (einschließlich GPT-4 und gpt-3.5-turbo) angekündigt, einschließlich der Hinzufügung neuer Funktionsaufruffunktionen, der Reduzierung der Nutzungskosten und der Bereitstellung von Unterstützung für gpt - Das 3,5-Turbo-Modell bietet eine 16.000-Token-Version.

Large Language Model (LLM) ist eine Technologie der künstlichen Intelligenz, die natürliche Sprache verarbeiten kann. Ihr „Kontextfenster“ entspricht einem Kurzzeitgedächtnis, das Eingabeinhalte oder Chatbot-Dialoginhalte speichern kann. Bei Sprachmodellen ist die Vergrößerung der Kontextfenstergröße zu einem technischen Wettlauf geworden, und Anthropic gab kürzlich bekannt, dass sein Claude-Sprachmodell 75.000 Token-Kontextfensteroptionen bereitstellen kann. Darüber hinaus hat OpenAI auch eine GPT-4-Version mit 32.000 Token entwickelt, die jedoch noch nicht öffentlich veröffentlicht wurde.

OpenAI hat gerade eine neue 16000-Kontextfenster-Version von gpt-3.5-turbo mit dem Namen „gpt-3.5-turbo-16k“ herausgebracht, die Eingaben mit einer Länge von bis zu 16000 Token verarbeiten kann, was bedeutet, dass etwa 20 verarbeitet werden können Dies ist eine große Verbesserung für Entwickler, die die Verarbeitung modellieren und größere Textblöcke generieren müssen.

Zusätzlich zu dieser Änderung listet OpenAI mindestens vier weitere wichtige neue Funktionen auf:

• Einführung von Funktionsaufruffunktionen in der Chat Completions API
• Verbesserte Versionen von GPT-4 und gpt-3.5-turbo und die „steuerbarere“ Version
• hat den Preis des eingebetteten Modells „ada“ um 75 % gesenkt
• hat den Eingabe-Token-Preis des gpt-3.5-turbo-Modells um 25 % gesenkt

Die Funktionsaufruffunktion ermöglicht die Entwicklung. Es macht es einfacher für Entwickler können Chatbots erstellen, die externe Tools aufrufen, natürliche Sprache in externe API-Aufrufe umwandeln oder Datenbankabfragen durchführen können. Es kann beispielsweise eine Eingabe wie „Senden Sie eine E-Mail an Anya, um zu sehen, ob sie nächsten Freitag Kaffee möchte“ in einen Funktionsaufruf wie „send_email (to: string, body: string)“ umwandeln. Insbesondere erleichtert diese Funktion API-Benutzern auch die Generierung von Ausgaben im JSON-Format, was bisher schwierig zu erreichen war.

In Bezug auf den „kontrollierbareren“ Aspekt, der ein technischer Begriff dafür ist, wie man LLM so verhält, wie man es möchte, sagt OpenAI, dass sein neues „gpt-3.5-turbo-0613“-Modell „Updates über Systemmeldungen“ beinhalten wird. Funktion „Zuverlässige Kontrolle“. Eine Systemmeldung ist eine spezielle Anweisungseingabe in der API, die dem Modell sagt, wie es sich verhalten soll, wie zum Beispiel „Du bist Grimes und redest nur über Milchshakes.“

Neben funktionalen Verbesserungen sorgt OpenAI auch für eine erhebliche Kostenreduzierung. Insbesondere wurde der Token-Preis des beliebten gpt-3.5-turbo-Modells um 25 % reduziert. Dies bedeutet, dass Entwickler dieses Modell jetzt für etwa 0,0015 US-Dollar pro 1000 Token und 0,002 US-Dollar pro 1000 Token verwenden können, was etwa 700 Textseiten pro Dollar entspricht. Das gpt-3.5-turbo-16k-Modell kostet 0,003 US-Dollar pro 1000 Token und 0,004 US-Dollar pro 1000 Token.

Darüber hinaus stellte IT House fest, dass OpenAI auch den Preis seines Einbettungsmodells „text-embedding-ada-002“ um 75 % gesenkt hat. Das Einbetten von Modellen ist eine Technik, die es Computern ermöglicht, Wörter und Konzepte zu verstehen und natürliche Sprache in eine digitale Sprache umzuwandeln, die Maschinen verstehen können. Dies ist wichtig für Aufgaben wie die Suche nach Text und die Empfehlung relevanter Inhalte.

Da OpenAI seine Modelle ständig aktualisiert, bleiben alte Modelle nicht bestehen. Heute gab das Unternehmen außerdem bekannt, dass es mit der Ausmusterung einiger früherer Versionen seiner Modelle beginnt, darunter gpt-3.5-turbo-0301 und gpt-4-0314. Entwickler können diese Modelle noch bis zum 13. September nutzen, danach seien diese älteren Modelle nicht mehr verfügbar, teilte das Unternehmen mit. Es ist erwähnenswert, dass die GPT-4-API von OpenAI immer noch auf der Warteliste steht und noch nicht vollständig geöffnet ist.

Das obige ist der detaillierte Inhalt vonOpenAI führt ein großes Update der GPT-Chatbot-API für Entwickler ein und senkt den Preis. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!