近日,小红书正式推出全新开源大模型——dots3-note preview。作为该系列的首发版本,该模型总参数量达280b,激活参数量为16b,全面支持文本、图像与语音三大模态的感知与理解能力。在推理能力、智能体(agent)构建及多模态任务处理方面,其性能已逼近国内外参数规模更大的先进模型。
模型发布当天,华为官方即宣布:昇腾 Atlas800A3 与 Atlas900A3SuperPoD 超节点已完成对该模型的高性能适配,并依托 vLLM Ascend 开源推理引擎,提供端到端的部署与运行支持。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

本次昇腾平台围绕该模型实施了覆盖训练、推理、部署全环节的深度优化,尤其聚焦于多模态协同处理与增量式解码两大关键挑战。在全模态端到端适配层面,系统成功整合视觉编码器、音频特征提取模块与大语言模型主干网络,实现原生多模态交互的高稳定性;在框架层优化上,通过通信与计算的高度协同设计及核心算子重构,彻底规避多卡间冗余计算,显著提升 MoE 架构下的推理吞吐效率。
从零搭建飞书机器人。支持 MiniMax/MiMo 等模型、工具调用(搜索/天气/百科/记忆)、Skill 架构。一站式交付可上线运行的飞书群聊 bot。基础版本,后续可自行升级能力

同时,为应对增量推理阶段的高延迟问题,昇腾原生集成了 MTP 投机解码技术,支持单次前向传播并行生成多个候选 Token,并高效完成校验与复用,大幅压缩解码所需的前向计算次数。这一整套底层技术升级,不仅确保模型在实际业务场景中稳定高效运行,更为长周期、高复杂度的智能应用落地提供了坚实可靠的算力底座。










