首頁 >後端開發 >Python教學 >AISuite:簡化跨多個 LLM 提供者的 GenAI 集成

AISuite:簡化跨多個 LLM 提供者的 GenAI 集成

Susan Sarandon
Susan Sarandon原創
2024-12-18 07:26:181125瀏覽

生成式人工智慧 (Gen AI) 正在憑藉其創造力、解決問題和自動化的潛力重塑產業。然而,由於 API 和配置分散,開發人員在整合來自不同提供者的大型語言模型 (LLM) 時經常面臨重大挑戰。互通性的缺乏使工作流程變得複雜,延長了開發時間,並阻礙了有效的 Gen AI 應用程式的創建。

為了解決這個問題,Andrew Ng 的團隊推出了 AISuite,這是一個開源 Python 庫,可以簡化 OpenAI、Anthropic 和 Ollama 等提供者之間的法學碩士整合。 AISuite 讓開發人員能夠使用簡單的「provider:model」字串(例如 openai:gpt-4o 或 anthropic:claude-3-5)在模型之間進行切換,因此無需進行大量程式碼重寫。透過提供統一的接口,AISuite 顯著降低了複雜性,加速了開發,並為構建多功能 Gen AI 應用程式開闢了新的可能性。

在本文中,我們將探討 AISuite 的工作原理、實際應用以及它在解決與不同法學碩士合作的挑戰方面的有效性。

入門

目錄

  • 什麼是AISuite
  • 為什麼AISuite很重要
  • 使用 AISuite 進行實驗
  • 建立聊天完成
  • 建立通用查詢函數

什麼是AISuite

AISuite 是由 Andrew Ng 團隊開發的開源 Python 程式庫,用於簡化來自多個提供者的大型語言模型 (LLM) 的整合和管理。它抽象化了使用不同 API、配置和資料格式的複雜性,為開發人員提供了一個統一的框架來簡化他們的工作流程。

AISuite的主要特點:

  • 簡單的介面:AISuite 提供了一個簡單且一致的介面來管理各種 LLM。開發者只需幾行程式碼就可以將模型整合到他們的應用程式中,大大降低了 Gen AI 專案的進入門檻。
  • 統一框架:透過抽象化多個API之間的差異,AISuite無縫處理不同類型的請求和回應。這減少了開發開銷並加速了原型設計和部署。
  • 輕鬆模型切換:使用AISuite,模型之間的切換就像更改程式碼中的單一字串一樣簡單。例如,開發人員可以指定「provider:model」組合,如 openai:gpt-4o 或 anthropic:claude-3-5,而無需重寫應用程式的重要部分。
  • 可擴充性:AISuite 旨在適應不斷發展的 Gen AI 環境。開發人員可以在新模型和提供者可用時添加它們,確保應用程式保持最新的人工智慧功能。

為什麼AISuite很重要?

AISuite 解決了 Gen AI 生態系統中的關鍵痛點:不同供應商的法學碩士之間缺乏互通性。透過提供統一的接口,它簡化了開發過程,節省了時間並降低了成本。這種靈活性允許團隊透過為特定任務選擇最佳模型來優化效能。

早期基準測試和社群回饋凸顯了 AISuite 減少多模型應用程式整合時間、提高開發人員效率和生產力的能力。隨著 Gen AI 生態系統的發展,AISuite 降低了實驗、建構和擴展人工智慧驅動的解決方案的障礙。

試試 AISuite

讓我們透過安裝必要的依賴項來開始探索 AISuite。

安裝依賴項

  • 透過執行以下命令來建立並啟動虛擬環境。
  • 使用 pip 安裝 aisuite、openai 和 python-dotenv 函式庫。

AISuite: Simplifying GenAI integration across multiple LLM providers

設定環境和憑證

建立一個名為 .env 的檔案。該文件將儲存您的環境變量,包括 OpenAI 金鑰。

  • 開啟 .env 檔案並新增以下程式碼來指定您的 OpenAI API 金鑰:
  • 將 API 金鑰加入環境變數。

初始化AISuite客戶端

建立 AISuite 用戶端實例,實現與多個 LLM 的標準化互動。

查詢型號

使用者可以使用AISuite查詢模型,如下。

  • model="openai:gpt-4o":指定模型的型別和版本。
  • messages=messages:將先前定義的提示傳送到模型。
  • 溫度=0.75:調整反應的隨機性。較高的數值鼓勵創造性產出,而較低的數值會產生更具確定性的結果。
  • response.choices[0].message.content:從模型的回應中檢索文字內容。

建立聊天完成

讓我們使用 OpenAI 模型建立聊天完成程式碼。

  • 使用以下命令運行應用程式。

您將得到以下輸出,

AISuite: Simplifying GenAI integration across multiple LLM providers

建立用於查詢的通用函數

與其編寫單獨的程式碼來呼叫不同的模型,不如建立一個通用函數來消除程式碼重複並提高效率。

ask 函數是一個可重複使用的實用程序,設計用於向 AI 模型發送查詢。它接受以下參數:

  • 訊息:使用者的查詢或提示。 sys_message(可選):指導模型行為的系統層級指令。
  • model:指定要使用的AI模型。 此函數處理輸入參數,將其發送到指定模型,並傳回 AI 的回應,使其成為與各種模型互動的多功能工具。

以下是使用通用詢問函數與 OpenAI 模型互動的完整程式碼。

運行程式碼將產生以下輸出。

AISuite: Simplifying GenAI integration across multiple LLM providers

與多個 API 交互

讓我們透過以下程式碼探索使用 AISuite 與多個模型進行互動。

與 Anthropic 或 Groq 等供應商互動時可能會遇到挑戰。希望 AISuite 團隊正在積極解決這些問題,以確保無縫整合和功能。

AISuite 是一款用於瀏覽大型語言模型的強大工具。它使用戶能夠利用多個人工智慧提供者的優勢,同時簡化開發並鼓勵創新。憑藉其開源基礎和直覺的設計,AISuite 成為現代人工智慧應用程式開發的基石。

感謝您閱讀這篇文章! !

感謝 Gowri M Bhatt 審閱內容。

如果您喜歡這篇文章,請點擊心形按鈕♥並分享以幫助其他人找到它!

本教學的完整原始碼可以在這裡找到,

GitHub - codemaker2015/aisuite-examples : github.com

資源

GitHub - andrewyng/aisuite:與多個生成式 AI 提供者的簡單、統一的介面:github.com

以上是AISuite:簡化跨多個 LLM 提供者的 GenAI 集成的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn