速途網訊 9月5日,阿里雲主導的AI模型社群魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發框架ModelScope-Agent。透過ModelScope-Agent,所有開發者都可基於開源 LLM 建構屬於自己的智能體應用,最大限度地釋放想像力和創造力。 ModelScope-Agent的程式碼現已開源。
AI Agent(AI智能體、AI代理)可謂目前大模型領域最熱門的研究方向,它是指基於LLM的、能夠使用工具自主完成特定任務的智能體。眾所周知,目前階段的LLM存在能力邊界,主要擅長處理文字任務。 AI Agent將LLM與其他模型、軟體等外部工具協同,便能處理真實世界中的各種複雜任務,例如接入視訊生成模型,自主生產視訊;接入外部軟體,幫人類寫郵件、訂票、購物等等。
AI Agent類應用正成為大模型創業的重要賽道,AI Agent 開發框架也應運而生。但業界現有的AI Agent 開發框架大多是基於閉源 LLM 建置。為了充分釋放開源 LLM 的生產力,魔搭社群自研了適合開源 LLM 的AI Agent開發框架ModelScope-Agent。簡而言之,ModelScope-Agent是pilot(領航員)而非copilot(副駕駛)。
此前,魔搭已用這套框架在社區做了“打樣”,搭建ModeScopeGPT,它能通過自然語言與用戶交互、接受用戶指令,通過“中樞模型”通義千問調用社區的眾多AI模型API,自主完成人類佈置的任務。 ModeScopeGPT的呼叫量已超過 25 萬。
(ModelScope-Agent系統架構圖)
AI Agent的工作流程一般包括任務的理解、規劃和執行,其中,LLM 負責任務規劃、工具調用以及回復生成,是整個流程的智能中樞,好比人類的大腦。 ModelScope-Agent允許開發者自由選擇智能體的“大腦”,適合百川、通義千問等各類開源模型。主流LLM能夠做到“即插即用”,開發者如需專門訓練LLM 以增強其工具呼叫能力,可以參考ModelScope-Agent開源的訓練資料、訓練方法、最佳化方案、評估方法。
ModelScope-Agent開發框架還包含記憶控制、工具使用等模組,記憶控制模組支援知識檢索以及 prompt (提示詞)管理,工具使用模組支援工具庫、工具檢索、工具自訂。為了增強開源大模型工具呼叫能力,魔搭社群也自研了一個包含60w樣本的MSAgent-Bench工具呼叫資料集。
大多數 AI Agent 開發框架需要手動新增工具,而ModelScope-Agent 透過呼叫魔搭社群上開源的文字向量模型,打造API 工具擷取引擎,能讓AI Agent根據使用者指令自動擷取相關工具。如果開發者想要新增外部工具/API,只需要在ModelScope-Agent上註冊工具,即可直接呼叫。
開源正在成為許多頭部大模型玩家的選擇。未來,ModelScope-Agent 會適配更多新增的開源LLM,並將推出更多基於ModelScope-Agent開發的應用,例如個人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓勵開發者用ModelScope-Agent探索工業製造、遊戲開發、智慧互聯等產業的應用。
魔搭社群表示,作為國內規模最大、用戶最活躍的AI模型開源社區,魔搭將持續透過開源開放推進大模型技術和應用發展。在此之前,阿里雲曾表示要把促進中國大模型生態的繁榮作為首要目標,並將魔搭建設成為中國最大的大模型自由市場。 (梔橙)
以上是魔搭社群推出AI Agent開發框架,人人可基於開源LLM「攢」出智能體應用的詳細內容。更多資訊請關注PHP中文網其他相關文章!