ChatGPT großes Update! OpenAI bietet Programmierern ein Geschenkpaket: Die API fügt Killerfunktionen hinzu und die Preise werden gesenkt, neue Modelle und ein vierfacher Kontext kommen

ChatGPT hat sich über Nacht erneut weiterentwickelt und OpenAI hat eine große Anzahl von Updates auf einmal veröffentlicht!

Der Kern ist die neue Funktionsaufruffähigkeit der API. Ähnlich wie bei der Webversion des Plug-Ins kann die API auch externe Tools nutzen.

Diese Fähigkeit liegt in den Händen von Entwicklern, und Funktionen, über die die ChatGPT-API ursprünglich nicht verfügt, können auch durch verschiedene Dienste von Drittanbietern gelöst werden.

Manche Leute denken, dass dies eine Killerfunktion und das wichtigste Update seit der Veröffentlichung der ChatGPT-API ist.

Darüber hinaus ist dieses Update zur ChatGPT-APIAlle sind sehr wichtig, nicht nur die Kapazität wird erhöht, sondern auch der Preis ist niedriger:

• Neue Versionen gpt-4-0613 und gpt-3.5- eingeführt Turbo -0613-Modell
• Die Kontextlänge von gpt-3.5-turbo wurde um 400 % von 4k auf 16k erhöht. Der Preis für den gpt-3.5-turbo-Eingabetoken wurde um 25 % reduziert. Der Preis für das fortschrittlichste Einbettungsmodell wurde um 75 % reduziert GPT-4-API groß Die Skala ist offen, bis die Warteschlangenliste gelöscht ist
• Die Nachricht hat China erreicht, und einige Internetnutzer glauben, dass dies eine große Herausforderung für große inländische Modelle darstellt.

Die API entscheidet, wann das Tool verwendet wird

Laut der offiziellen Einführung von OpenAI unterstützen Funktionsaufrufe sowohl die neue Version von GPT-4 als auch GPT-3.5.

Entwickler benötigen das Modell nur, um die Funktionen zu beschreiben, die verwendet werden müssen. Wann welche Funktion aufgerufen werden soll, wird vom Modell selbst anhand der Eingabeaufforderungswörter bestimmt, was dem Mechanismus des ChatGPT-Aufrufs von Plug-Ins entspricht.

Für spezifische Nutzungsmethoden nennt der Beamte drei Beispiele:

Erstens

ruft der Chatbot eine externe API auf, um Vorgänge auszuführen oder Fragen zu beantworten, wie zum Beispiel „Jemanden eine E-Mail senden“ oder „Wie ist das Wetter heute?“ " ".

Zweitens: Konvertieren Sie natürliche Sprache in API-Aufrufe oder Datenbankabfragen, z. B. „Wie viele Bestellungen gab es letzten Monat?“ Es werden automatisch SQL-Abfrageanweisungen generiert.

Drittens: Extrahieren Sie automatisch strukturierte Daten aus dem Text. Sie müssen beispielsweise nur den erforderlichen „Namen, Geburtstag, Ort“ definieren und einen Weblink angeben, und schon können Sie einen Wikipedia-Artikel automatisch extrahieren Informationen zu allen im Artikel genannten Personen.

Diese neue Funktion hat die Mehrheit der Internetnutzer, insbesondere Entwickler, bejubelt und gesagt, dass damit die Arbeitseffizienz erheblich verbessert wird.

Wenn Sie in der Vergangenheit wollten, dass GPT Funktionen aufruft, mussten Sie die Tools von LangChain verwenden. ...Obwohl LangChain theoretisch eine höhere Betriebseffizienz aufweist, ist seine Zuverlässigkeit schlechter als die des speziell abgestimmten neuen GPT.

Aktualisierte Version, niedrigerer Preis

Derzeit hat die neue Version des Modells nach und nach mit der Iteration begonnen.

Die neuesten Versionen von gpt-4-0613, gpt-3.5-turbo-0613 und die erweiterte Kontextlänge gpt-4-32k-0613 unterstützen alle Funktionsaufrufe.

gpt-3.5-turbo-16k unterstützt keine Funktionsaufrufe und bietet die vierfache Kontextlänge, was bedeutet, dass eine Anfrage etwa 20 Textseiten unterstützen kann.

Auch alte Modelle werden nach und nach aufgegeben.

Apps, die die ersten Versionen von gpt-3.5-turbo und gpt-4 verwenden, werden am 27. Juni automatisch auf die neue Version aktualisiert.

Entwickler, die mehr Zeit für die Umstellung benötigen, können auch manuell festlegen, dass sie weiterhin die alte Version verwenden möchten, jedoch weiterhin 13. September Alle Anfragen für ältere Versionen werden in Zukunft komplett verworfen.

Nachdem wir über diesen Zeitplan gesprochen haben, werfen wir einen Blick auf den Preis.

Nach dem Upgrade hat OpenAI den Preis des Produkts nicht nur nicht erhöht, sondern auch gesenkt.

Das erste ist das am häufigsten verwendete gpt-3.5-turbo (4K-Token-Version).

Der Preis für Input-Token wurde um 25 % gesenkt und beträgt jetzt 0,0015 US-Dollar pro tausend Token, was 666.000 Token pro 1 US-Dollar entspricht.

Der Preis des Ausgabe-Tokens pro tausend Token beträgt 0,002 US-Dollar, was 500.000 Token pro 1 US-Dollar entspricht.

Umgerechnet in englischen Text sind es etwa 1 US-Dollar und 700 Seiten.

Der Preis des Einbettungsmodells ist stark gesunken und wurde direkt um 75 % gesenkt.

Alle tausend Token kosten nur 0,0001 USD, was 1 USD und 10 Millionen Token entspricht.

Darüber hinaus bietet die neu eingeführte 16K-Token-Version von GPT3.5-Turbo die vierfache Rechenleistung der 4K-Version, ist aber nur doppelt so teuer.

Die Preise für Eingabe- und Ausgabe-Token betragen 0,003 US-Dollar bzw. 0,004 US-Dollar pro tausend Token.

Außerdem berichteten einige Internetnutzer, dass die monatliche Rechnung von 100 auf einige Cent gesunken sei. Es ist unklar, wie die konkrete Situation ist.

Abschließend vergessen Sie nicht, sich bei Bedarf für die GPT-4-API-Testqualifikationen anzumelden.

OpenAI fängt „Chain“ ein, Microsoft steckt dahinter

Viele Internetnutzer wiesen darauf hin, dass der neue „Funktionsaufruf“ von OpenAI im Grunde eine Nachbildung der „Tools“ in Langchain ist.

Vielleicht wird OpenAI in Zukunft auch weitere Funktionen von Langchain kopieren, wie zum Beispiel Ketten und Indizes.

Langchain ist das beliebteste Open-Source-Entwicklungsframework im Bereich großer Modelle, das verschiedene Funktionen großer Modelle integrieren kann, um schnell Anwendungen zu erstellen.

Das Team erhielt außerdem kürzlich eine Seed-Finanzierung in Höhe von 10 Millionen US-Dollar.

Obwohl dieses Update von OpenAI das unternehmerische Projekt von Langchain nicht direkt „töten“ wird.

Aber ursprünglich brauchten Entwickler LangChain, um einige Funktionen zu implementieren, aber jetzt brauchen sie es nicht mehr.

Wenn man sich Langchains Reaktion ansieht, ist der Überlebenswille tatsächlich sehr stark.

Innerhalb von 10 Minuten nach der offiziellen Veröffentlichung des Updates durch OpenAI gab Langchain sofort bekannt, dass es „bereits an der Kompatibilität arbeitet“.

Und in weniger als einer Stunde wurde eine neue Version veröffentlicht. Neben der Unterstützung neuer offizieller Funktionen kann es auch bereits von Entwicklern geschriebene Tools in OpenAI-Funktionen konvertieren.

Neben dem Anstehen, um sich über die lächerlich schnelle Entwicklungsgeschwindigkeit zu beklagen, dachten sie auch über eine unvermeidbare Frage nach:

Was sollten Sie tun, wenn OpenAI Ihr unternehmerisches Projekt zerstört?

In diesem Zusammenhang hat OpenAI-CEO Sam Altman kürzlich eine Erklärung abgegeben.

Beim Austauschtreffen von Humanloop Ende Mai sagte Altman einmal:

Außer bei Verbraucheranwendungen wie ChatGPT sollten Sie vermeiden, mit Kunden zu konkurrieren.

Jetzt scheint es, dass Entwicklungstools nicht in den Bereich der Wettbewerbsvermeidung einbezogen sind.

Neben Startups gibt es noch ein weiteres nicht zu übersehendes Unternehmen, das mit OpenAI konkurriert:

Microsoft, der größte Sponsor von OpenAI, stellt auch OpenAI-API-Dienste über die Azure-Cloud bereit.

Erst kürzlich berichteten einige Entwickler, dass nach dem Wechsel von der offiziellen OpenAI-API auf die Microsoft Azure-Version die Leistung deutlich verbessert wurde.

Konkret:

• Die mittlere Latenz wurde von 15 Sekunden auf 3 Sekunden reduziert.
• Die Latenz im 95. Perzentil wurde von 60 Sekunden auf 15 Sekunden reduziert.
• Die durchschnittliche Anzahl der pro Sekunde verarbeiteten Token hat sich verdreifacht, von 8 auf 24.

Inklusive einiger Rabatte von Azure ist es sogar günstiger als zuvor.

Aber die Update-Geschwindigkeit von Microsoft Azure ist im Allgemeinen mehrere Wochen langsamer als die von OpenAI.

Nutzen Sie OpenAI für eine schnelle Iteration während der Entwicklungsphase und wechseln Sie zu Microsoft Azure für eine groß angelegte Bereitstellung. Haben Sie etwas gelernt?

Update-Ankündigung https://openai.com/blog/function-calling-and-other-api-updates.

GPT-4 API-Warteschlange https://openai.com/waitlist/gpt-4-api.

Referenzlink:
[1]https://news.ycombinator.com/item?id=36313348.

[2]https://twitter.com/svpino/status/1668695130570903552.

[3]https://weibo.com/1727858283/N5cjr0jBq.

[4]https://twitter.com/LangChainAI/status/1668671302624747520.

[5]https://twitter.com/hwchase17/status/1668682373767020545.

[6]https://twitter.com/ItakGol/status/1668336193270865921.

Das obige ist der detaillierte Inhalt vonChatGPT großes Update! OpenAI bietet Programmierern ein Geschenkpaket: Die API fügt Killerfunktionen hinzu und die Preise werden gesenkt, neue Modelle und ein vierfacher Kontext kommen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!