Meta 推出多標記預測技術，可能徹底改變大型語言模型開發

Meta 在更有效率的人工智慧競賽中發起了挑戰。這家科技巨頭週三發布了預訓練模型，該模型利用了一種新穎的多令牌預測方法，可能會改變大型語言模型（LLM）的開發和部署方式。

Meta 於週三發布了預訓練模型，該模型利用了新穎的多令牌預測方法，可能會改變大型語言模型（LLM）的開發和部署方式。

這家科技巨頭的最新產品是在 Meta 研究人員最近發表的一篇論文之後推出的，該論文概述了一種新的 LLM 訓練方法，利用多令牌預測。為了進一步推動這一領域的研究，Meta 現在發布了用於程式碼補全的預訓練模型，在 Hugging Face 上利用了這種方法。

該技術標誌著與訓練法學碩士僅預測下一個單字的傳統方法的背離按順序。相反，Meta 的方法任務模型同時預測多個未來單詞，有望提高表現並大幅減少訓練時間。

這項突破的影響可能是深遠的。隨著人工智慧模型的規模和複雜性不斷增長，它們對運算能力的貪婪需求引起了人們對成本和環境影響的擔憂。 Meta 的多令牌預測方法可能會提供一種遏制這種趨勢的方法，使先進的人工智慧更容易獲得和可持續。

人工智慧民主化：高效語言模型的承諾和危險

這種新方法的潛力不僅限於效率提升。透過同時預測多個標記，這些模型可以對語言結構和上下文產生更細緻的理解。這可能會導致從程式碼生成到創意寫作等任務的改進，從而有可能彌合人工智慧和人類語言理解之間的差距。

VB Transform 2024 倒數計時

與舊金山的企業領袖一起於 7 月 9 日至 11 日參加我們的活動旗艦人工智慧盛會。與同行交流，探索生成式人工智慧的機會和挑戰，並了解如何將人工智慧應用程式整合到您的行業中。立即註冊

以上是Meta 推出多標記預測技術，可能徹底改變大型語言模型開發的詳細內容。更多資訊請關注PHP中文網其他相關文章！