使用Mistral 7b -Analytics Vidhya在AI代理中調用功能

利用Mistral 7b的功能呼叫力量：構建智能AI代理商

大型語言模型（LLM）已徹底改變了AI代理與外部系統和API的互動，從而實現了自然的自然驅動決策。這是通過函數調用來實現的，其中JSON模式定義的功能允許LLM自主選擇和執行外部操作，從而顯著提高自動化。本文演示了使用Mistral 7b的功能調用，這是一種優化的指令遵循的尖端模型。

關鍵學習目標：

• 掌握生成AI中AI代理的作用和類型。
• 了解函數調用如何通過JSON模式增強LLM功能。
• 配置並加載Mistral 7b模型，以進行文本生成。
• 在LLMS中呼叫函數以執行外部進程。
• 提取功能參數並使用Mistral 7b產生響應。
• 執行具有結構化輸出的實時功能，例如天氣查詢。
• 使用多種工具在不同域上擴展AI代理功能。

（本文是數據科學博客馬拉鬆的一部分。）

目錄：

• 了解AI代理
• 在LLMS中呼叫的功能解釋了
• 構建Mistral 7b管道：模型和文本生成
• 用Mistral 7b實施功能調用
• 模型生成的最終響應
• 結論
• 常見問題

了解AI代理：

在生成的AI（Genai）中，AI代理代表著重大進步。他們利用LLM等模型來生成內容，模擬交互並自主執行複雜的任務。它們的適應性遍及各個領域，包括客戶服務，教育和醫療保健。

AI代理的分類如下（請參見下圖）：

• 人類循環（反饋提供）
• 代碼執行者（例如，ipython內核）
• 工具執行者（功能或API執行）
• 模型（LLM，VLM等）

函數調用會集成代碼執行，工具執行和模型推理。 LLM處理自然語言處理，而代碼執行者運行必要的代碼段來滿足用戶請求。人類互動可以提供反饋或控製過程終止。

在LLMS中調用的功能解釋了：

開發人員使用JSON模式（傳遞給模型）定義功能。然後，該模型根據用戶提示生成所需的函數參數。例如，它可以致電天氣API提供實時天氣信息。功能調用允許LLMS智能選擇適當的功能或工具，從而實現自主任務完成並提高效率。

本文演示了LLM（Mistral）如何根據用戶查詢生成函數參數。用戶要求德里溫度；該模型提取參數，函數檢索實時數據（或此處的默認值），LLM提供了用戶友好的響應。

構建Mistral 7b管道：模型和文本生成：

我們將導入必要的庫，並加載Mistral 7b模型和令牌，從擁抱表面進行推理。該模型可在此處使用。

導入庫：

從變形金剛進口管道，AutomodelForCausAllm，AutoTokenizer
進口警告
警告。 FilterWarnings（“忽略”）

指定Mistral 7b模型存儲庫：

 model_name =“ mistralai/mistral-7b-instruct-v0.3”

下載模型和令牌：

（注意：訪問需要按照其網站上的說明來擁抱面部註冊和代幣生成。）

 model = automodelforcausallm.from_pretrate（model_name，token = hf_token，device_map ='auto'）
tokenizer = autotokenizer.from_pretaining（model_name，token = hf_token）

（詳細介紹實現，結果和結論的其餘部分將遵循類似的重組和重新措辭，以保持原始含義，同時增強清晰度和流動。圖像將保留在其原始位置。）

以上是使用Mistral 7b -Analytics Vidhya在AI代理中調用功能的詳細內容。更多資訊請關注PHP中文網其他相關文章！