Llama 4型号：Meta AI正在开放购买最好的！ - 分析Vidhya

Meta的Llama 4：开源AI Powerhouses的三重奏

Meta AI通过同时发布了Llama 4 Banner下的三种开创性的大语言模型（LLM），从而破坏了AI景观：Scout，Maverick和Beamemoth。这一举动与竞争对手的封闭，越来越大的模型的趋势形成鲜明对比。 Llama 4优先考虑可访问性，为更广泛的受众提供强大的AI工具。本文探讨了每个模型的独特功能和性能。

Llama 4侦察员：重新定义效率

Scout是Llama 4家族的轻量级冠军。专为资源受限的环境而设计，非常适合无法获得广泛的GPU资源的开发人员和研究人员。

• 关键特征： Scout采用专家（MOE）体系结构的混合物，在任何给定时间仅激活其109B参数（17B活动）的一小部分。它拥有一个显着的1000万令牌上下文窗口，并使用INT4量化在单个H100 GPU上有效运行。预先训练200种语言（每种超过十亿个代币）和多样化的图像/视频数据，每个提示最多支持8张图像。

• 性能：基准测试表明，侦察兵的表现优于Gemini 3和Mismtral 3.1的可比较模型。其高级图像区域接地可以精确的视觉推理。

• 理想的应用程序：长篇小说聊天机器人，代码摘要工具，教育问答系统以及移动/嵌入式助手。

Llama 4 Maverick：多功能主力

Maverick是旗舰型开放式型号，用于高级推理，编码和多模式应用。虽然比侦察兵更强大，但它通过其MOE架构保持效率。

• 关键功能： Maverick使用的Moe体系结构具有128位路由专家和共享专家，在推理过程中激活其400B参数的17B。经过尖端技术（Metap Hypergaremeter缩放，FP8精度训练）训练，它利用了大量的300万亿代币数据集，并最多支持8个图像输入。

• 表现： Maverick在LMSYS Chatbot Arena上取得了令人印象深刻的ELO得分，超过了GPT-4O和Gemini 2.0 Flash。它显示出强烈的图像理解，多语言推理以及超过Llama 3.3 70b模型的成本效益的性能。

• 理想的应用程序： AI对编程，企业级文档的理解和教育辅导系统。

骆驼4庞然大物：无名英雄

迄今为止，Meta最大的模型Bememoth尚未公开可用。但是，它在教师模型中起着至关重要的作用，通过共同依据指导童子军和小牛的培训。

• 关键特征：庞然大物的庞大架构（约2万亿个参数）和高级训练技术在具有挑战性的基准方面可以表现出色。

• 角色：其主要功能是作为评估和内部模型改进的黄金标准。

访问美洲驼4型型号

Llama 4 Scout和Maverick很容易通过多个平台访问：

• Llama.meta.com：Meta的llama型号的官方枢纽，提供模型卡，纸张，文档和使用模型权重的访问。

• 拥抱脸：提供现成的测试和部署版本。

• META应用程序：集成到WhatsApp，Instagram，Messenger和Facebook中，允许用户直接与其应用程序中的模型进行交互。

• Web界面：还可以通过Web界面进行直接访问。

Llama 4在行动：示例

虽然在Meta的应用程序和Web界面中使用的特定Llama 4模型尚未明确说明，但测试却揭示了令人印象深刻的功能：

• 创意计划：迅速生成详细的社交媒体策略。

• 编码：生成代码，尽管准确性可能需要改进。

• 图像生成：使用编辑和动画选项生成多个图像。

培训和培训后创新

Llama 4的成功源于复杂的两步训练过程：

• 预训练：采用多模式数据（文本，图像，视频），MOE体系结构，早期融合，Metap Hyperparameter Tuning，FP8 Precision和IROPE架构进行长篇文化处理。

• 培训后：利用轻巧的监督微调（SFT），在线增强学习（RL），直接偏好优化（DPO）和庞然大物共同依据，以提高性能和安全性。

基准性能摘要

每个模型都在特定领域出色：效率的侦察，整体性能的小牛和研究级基准测试的庞然大物。与领先模型相比，详细的基准结果强调了它们的出色性能。

模型比较表

模型	总参数	活动参数	专家	上下文长度	运行	公共访问	理想的
侦察	109b	17b	16	10m令牌	单人H100	✅	轻巧的AI，长期内存应用程序
小牛	400B	17b	128	未列出	单/多GPU	✅	研究，编码，企业
庞然大物	〜2t	288b	16	未列出	内部下属	❌	内部用途，基准

结论

Meta的Llama 4型号代表了AI可访问性和性能方面的重大飞跃。他们的开源性质使人们对尖端AI技术的访问权力民主，从而赋予了全球开发人员和研究人员的能力。对开放和效率的关注为AI开发的未来树立了新标准。

以上是Llama 4型号：Meta AI正在开放购买最好的！ - 分析Vidhya的详细内容。更多信息请关注PHP中文网其他相关文章！