首頁  >  文章  >  科技週邊  >  OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%

OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%

王林
王林轉載
2023-06-15 22:10:08914瀏覽

前幾天,OpenAI 的CEO Sam Altman 在全球巡迴演講中,透漏了OpenAI 近期發展路線,主要分兩個階段,2023 年的首要任務是推出更便宜、更快的GPT-4 ,更長的上下文視窗等;2024 年重點是多模態。

OpenAI 2023 年的這些目標正在逐一實現。從 ChatGPT 推出至今,短短幾個月,OpenAI 在 GPT-3.5 Turbo、GPT-4 等這些模型的基礎上建立了令人難以置信的應用程式。當地時間6 月13 日,OpenAI 發布函數調用及其他API 更新,具體包括:

  • #在Chat Completions API 中新增新的函數調用,能讓模型在需要的時候呼叫函數並產生對應的JSON 物件作為輸出;
  • 更新和更可操縱版本的GPT-4 和GPT-3.5 Turbo;
  • #16k 上下文版本的gpt-3.5-turbo(標準的是4k 版本);
  • 最先進的嵌入模型(embeddings model)成本降低了75%;
  • gpt-3.5-turbo 輸入token 成本降低25%;
  • 宣布gpt-3.5-turbo-0301 和gpt-4-0314 型號的棄用時間表。

OpenAI 表示:API 中的 GPT-4 和 GPT-3.5 Turbo 模型現在支援呼叫使用者自訂函數,允許模型使用使用者為其設計的工具。此外,使用者使用模型的價格降低了,OpenAI 也發布了一些新的型號版本(包括16k 上下文GPT-3.5 Turbo):

##函數呼叫

現在開發人員可以向gpt-4-0613 和gpt-3.5-turbo-0613 描述函數,並讓模型智慧地選擇輸出一個包含呼叫這些函數所需參數的JSON 物件。這是一種更可靠地將 GPT 的能力與外部工具和 API 連接起來的新方法。

模型經過微調,既可以偵測何時需要呼叫函數(取決於使用者的輸入),又可以使用符合函數簽章的 JSON 來回應。函數呼叫使開發人員可以更可靠地從模型中獲取結構化資料。例如,開發人員可以:

  • 建立聊天機器人,透過呼叫外部工具來回答問題:

例如將諸如“給Anya 發電子郵件,問她下週五是否想喝咖啡”之類的查詢轉換為函數調用send_email (to: string, body: string) ;或者將“波士頓的天氣怎麼樣?” 轉換為get_current_weather (location: string, unit: 'celsius' | 'fahrenheit')。

  • 將自然語言轉換為API 呼叫或資料庫查詢:

例如將「誰是我這個月的十大客戶?」轉換為內部API 呼叫get_customers_by_revenue (start_date: string, end_date: string, limit: int);又或將「Acme 公司上個月下了多少訂單?」轉化為SQL 查詢sql_query (query: string) 。

OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%


  • #從文字擷取資料結構:

例如定義一個名為extract_people_data (people: [{name: string, birthday: string, location: string}]) 的函數,用來擷取維基百科中提到的所有人。

OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%

#以上這些用例由/v1/chat/completions 端點、functions 和function_call 中的新API 參數啟用,允許開發人員透過JSON 模式向模型描述函數,並選擇要求它呼叫特定函數。 

函數呼叫範例#

例如用戶詢問「現在波士頓的天氣怎麼樣?」,經過一系列處理後,最終模型輸出答案:「波士頓目前天氣晴朗,氣溫為22 攝氏度。」

OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%

##下圖對應上圖中的第一步,包含請求與回應:

OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%

新模型

首先是GPT-4:

  • gpt-4-0613 包含了一個更新和改進的函數呼叫模型。
  • gpt-4-32k-0613 包括與 gpt-4-0613 相同的改進,以及擴展的上下文長度,以理解更大的文本。

然後是GPT - 3.5 Turbo:

  • gpt-3.5-turbo-0613 包含與GPT-4 相同的函數調用,以及透過系統訊息更可靠的可操作性,開發人員可以利用這兩個特性更有效地指導模型進行響應。
  • gpt-3.5-turbo-16k 提供的上下文長度是gpt-3.5-turbo 的4 倍,價格是gpt-3.5-turbo 的兩倍:每1K 輸入token 0.003 美元,每1K 輸出token 0.004 美元。 16k 上下文意味著該模型現在可以在單一請求中支援大約 20 頁的文字。

模型棄用

#3 月發布的gpt-4 和gpt-3.5-turbo 的初始版本將進行棄用和升級。應用程式將使用更穩定的型號 gpt-3.5-turbo、 gpt-4 和 gpt-4-32k,這些型號將於 6 月 27 日自動升級。如果大家想對不同版本的模型進行比較,可以使用 Eval 函式庫進行公用和私有評估。

此外,需要過渡時間的開發人員可以繼續使用舊版的模型gpt-3.5-turbo-0301、gpt-4-0314 或gpt-4-32k-0314,但在9 月13 號之後,在請求使用這些模型,將會失敗。想要了解更多模型棄用訊息,可參考:

模型棄用查詢:https://platform.openai.com/docs/deprecations/

此外,本次更新價格更低了,Text-embedding-ada-002 是嵌入系統最受歡迎的嵌入模型。如今,其成本降​​低了 75%,低至每 1K token 0.0001 美元。

最後,還有大家比較關注的 GPT - 3.5 Turbo,其為數百萬用戶提供了 ChatGPT 功能。如今,gpt-3.5-turbo 的投入 token 成本降低了 25%。開發人員現在使用這個模型,每 1K 輸入 token 只需 0.0015 美元,每 1K 輸出 token 只需 0.002 美元,這相當於每美元約 700 頁。

以上是OpenAI更新GPT-4等模型,新增API函數調用,價格最高降75%的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除