☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

寒武纪今日正式对外公布，已依托 vLLM 推理框架，全面完成对深度求索（DeepSeek）最新发布的开源大模型DeepSeek-V4全量版本的“Day0”级适配。本次适配覆盖参数规模达285B的 Flash 版本以及高达1.6T的 Pro 版本，确保模型一经发布即可在寒武纪自研硬件平台上实现开箱即用、稳定高效运行，全部优化代码已同步开源至 GitHub 平台。

针对DeepSeek-V4所采用的稀疏注意力机制与轻量化压缩架构，寒武纪基于自研向量融合算子库 Torch-MLU-Ops，对 Compressor 等关键计算模块实施了定向加速优化。团队使用 BangC 高性能编程语言，深度定制开发了稀疏 Attention、GroupGemm 等高频核心算子的极致性能内核，并在 vLLM 框架中完整集成 TP（张量并行）、PP（流水线并行）、SP（序列并行）、DP（数据并行）、EP（专家并行）五维混合并行策略，同时支持低比特量化推理与 Prefill/Decode（PD）分离式部署方案。上述技术组合在严守端到端延迟指标的前提下，大幅提升了每秒生成词元（token）的吞吐效率。

Deepseek Reasoner Lite Agent

你是DeepSeek-R1-Agent，一个高效的内容创作者。

下载

在硬件协同层面，寒武纪充分释放 MLU 芯片在内存带宽调度与排序计算方面的原生优势，精准应对DeepSeek-V4中复杂的动态索引逻辑。借助高带宽互联设计与超低通信延迟特性，该方案显著削减了 Prefill 与 Decode 阶段的跨设备通信开销，从而全面提升硬件资源的推理利用率。

业内专家指出，DeepSeek-V4 凭借支持百万级上下文长度（1M tokens）及卓越的多步逻辑推理能力，对底层 AI 算力基础设施提出了前所未有的挑战。寒武纪在模型发布首日即完成全栈适配，不仅印证了国产智能芯片平台对超大规模、高复杂度大模型的工程化承载实力，更标志着我国 AI 产业在软硬一体化协同创新方面迈入成熟发展阶段，为大模型规模化落地与普惠应用提供了坚实可靠的国产算力支撑底座。