首頁  >  文章  >  科技週邊  >  AI 領域再添一員"猛將",Meta 發布全新大型語言模型LLaMA

AI 領域再添一員"猛將",Meta 發布全新大型語言模型LLaMA

王林
王林轉載
2023-04-25 12:52:061096瀏覽

ChatGTP走紅以來,圍繞ChatGTP開發出來的AI應用層出不窮;讓人們感受到了人工智慧的強大!

近日,Facebook 母公司Meta 發表了人工智慧大型語言模型(Large Language Model Meta AI)簡稱LLaMA。

AI 领域再添一员"猛将",Meta 发布全新大型语言模型LLaMA


祖克柏在社群媒體上寫道:」由FAIR 團隊研發的LLaMA模型是目前世界上最高水準的大型語言模型,目標是幫助研究人員推進他們在人工智慧領域的工作!」。

與其他大型模型一樣,Meta LLaMA 的工作原理是將一系列單字作為「輸入」並預測下一個單字以遞歸生成文字。

據介紹,Meta 正在開發多種參數(7B、13B、33B 和 65B)的 LLaMA。其中,LLaMA 65B 和 LLaMA 33B 在 1.4 兆個 tokens 上訓練,而最小的模型 LLaMA 7B 也經過了 1 兆個 tokens 的訓練。

另外LLaMA 模型接受了 20 種語言訓練,包括拉丁語和西里爾字母語言,所需的運算能力遠低於先前推出的大模型。

FAIR團隊表示,LLaMA 目前尚未被應用在 Meta 的任何產品之中。

與」DeepMind「 和」OpenAI「 不同的是,LLaMA將會公開訓練程式碼;

Meta 還計劃將這項技術優先開放給AI 研究人員,如果想使用LLaMA 可以提交申請,審核通過就可以使用。

以上是AI 領域再添一員"猛將",Meta 發布全新大型語言模型LLaMA的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除