Meta 推出多标记预测技术，可能彻底改变大型语言模型开发

Meta 在更高效的人工智能竞赛中发起了挑战。这家科技巨头周三发布了预训练模型，该模型利用了一种新颖的多令牌预测方法，可能会改变大型语言模型（LLM）的开发和部署方式。

Meta 于周三发布了预训练模型，该模型利用了新颖的多令牌预测方法，可能会改变大型语言模型（LLM）的开发和部署方式。

这家科技巨头的最新产品是在 Meta 研究人员最近发表的一篇论文之后推出的，该论文概述了一种新的 LLM 训练方法，利用多令牌预测。为了进一步推动这一领域的研究，Meta 现在发布了用于代码补全的预训练模型，在 Hugging Face 上利用了这种方法。

该技术标志着与训练法学硕士仅预测下一个单词的传统方法的背离按顺序。相反，Meta 的方法任务模型同时预测多个未来单词，有望提高性能并大幅减少训练时间。

这一突破的影响可能是深远的。随着人工智能模型的规模和复杂性不断增长，它们对计算能力的贪婪需求引起了人们对成本和环境影响的担忧。 Meta 的多令牌预测方法可能会提供一种遏制这种趋势的方法，使先进的人工智能更容易获得和可持续。

人工智能民主化：高效语言模型的承诺和危险

这种新方法的潜力不仅仅局限于效率提升。通过同时预测多个标记，这些模型可以对语言结构和上下文产生更细致的理解。这可能会导致从代码生成到创意写作等任务的改进，从而有可能弥合人工智能和人类语言理解之间的差距。

VB Transform 2024 倒计时

7 月 9 日至 11 日与旧金山的企业领袖一起参加我们的活动旗舰人工智能盛会。与同行交流，探索生成式人工智能的机遇和挑战，并了解如何将人工智能应用程序集成到您的行业中。立即注册

以上是Meta 推出多标记预测技术，可能彻底改变大型语言模型开发的详细内容。更多信息请关注PHP中文网其他相关文章！