首頁  >  文章  >  科技週邊  >  阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

王林
王林轉載
2023-08-04 22:33:111304瀏覽

阿里雲於7月25日率先推出了Llama2全系列版本的訓練和部署方案,該開源專案支援免費商用,引起了業界對大規模開源模式的廣泛關注。歡迎開發者們來阿里雲上建立自己的客製化大模型

最近,Llama2大型語言模型已宣布開源,包括70億、130億和700億參數版本。 Llama2可免費用於研究和商業場景中的月活7億以下的用戶,為企業和開發者提供了進行大型模型研究的新工具。然而,再訓練和部署Llama2仍然具有較高的門檻,特別是對於更強大的大尺寸版本

為了方便開發者,阿里雲機器學習平台PAI在國內率先對Llama2系列模型進行深度適配,並推出了適用於輕量級微調、全參數微調、推理服務等場景的最佳實踐方案,以幫助開發者快速基於Llama2進行再訓練,構建自己的客製化大模型

阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

阿里雲牽頭髮起的AI模型社群魔搭ModelScope,第一時間上架了Llama2#系列模型。開發者可在魔搭社群Llama2模型頁面點擊“Notebook快速開發”,一鍵拉起阿里雲機器學習平台PAI,對模型進行雲上開發和部署;在其他平台下載的Llama2模型,也可使用阿里雲PAI進行開發。

阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

為了滿足特殊場景的需求,開發者通常需要使用微調訓練的方法對模型進行調整,以獲取特定領域的專業能力和知識。為此,PAI提供了在雲上進行輕量級Lora微調或更深度的全參數微調的支援。一旦完成了模型的微調,開發者可以透過Web UI和API來部署Llama2,以便模型可以透過網頁或嵌入式應用程式與使用者互動

阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

在阿里雲上,透過PAI靈駿智算服務提供的分散式運算能力,可以輕鬆完成超大尺寸模型Llama2的深度開發。預置環境免去了維運的麻煩,操作簡單便捷。此外,開發者還可以享受豐富的AI運算資源和極致彈性。相較之下,本地單卡GPU只能處理Llama2 70億參數版本的輕量級Lora微調和推理,難以支援更大尺寸版本和更深度的訓練

作為全球前三、亞洲第一的雲端廠商,阿里雲是中國AI浪潮的重要領導者和服務者,已建構完備的IaaS PaaS MaaS一體化AI服務。在基礎設施層,阿里雲擁有國內最強的智慧算力儲備,靈駿智算集群具備最大十萬卡GPU規模擴展性,可承載多個萬億參數大模型同時在線訓練;在AI平台層,阿里雲機器學習平台PAI提供AI開發全流程的工程能力,PAI靈駿智算服務支撐了通義千問等超大模型的訓練與應用,可將大模型訓練性能提高近10倍,推理效率提升37 %;在模型服務層,阿里雲建構了國內最活躍的AI模型社群魔搭,支援企業基於通義千問或三方大模型進行再訓練。

阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式

今年7月初,阿里雲宣布將以促進中國大模型生態繁榮為首要目標,為大模型創業公司提供全面的服務,包括模型訓練、推理、部署、精調、評估和產品化落地,並提供充分的資金和商業化探索支援

以上是阿里雲全面支援Llama2訓練部署,協助企業快速建置自有大型模式的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除