面壁智能近日携手清华大学、openbmb开源社区,正式推出并开源其在低比特大模型训练领域的最新研究成果——bitcpm-cann。该成果全程基于华为昇腾平台原生开发,标志着端侧ai大模型在轻量化设计与实际工程部署方面取得实质性进展。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

显存占用降低六倍,突破硬件瓶颈
此次开源的BitCPM-CANN涵盖0.5B、1B、3B、8B四种参数规模,与同规格全精度基准模型展开全面对比测试,整体性能表现突出。相较于传统BF16精度方案,该模型在推理阶段可节省约6倍显存资源,显著缓解对高端计算硬件的依赖。
对智能手机行业而言,这一显存优化能力意味着原先需高配硬件支撑的8B级大模型,如今可在主流旗舰机型上稳定高效运行。这种对内存资源的高度压缩,将有力推动端侧AI能力在移动终端的规模化应用与商业化进程。
将小说章节转换为电影分镜剧本。用户上传txt/md/docx文本,AI分析场景、角色、情绪、镜头语言,输出专业分镜脚本。适用于用户提及“分镜”“storyboard”“小说转分镜”“影视改编”“镜头脚本”或需要将小说改编为分镜的场景。
高能力保留率验证技术稳健性与落地可行性
在大幅压缩模型体积的同时,BitCPM-CANN仍保持卓越的任务表现,模型能力保留率稳定维持在90%至97.2%区间。其中,1B、3B、8B三个主力规模模型的能力保留率均达95.7%—97.2%,即便是最小的0.5B版本,其能力保留率亦超过90%。
上述实测数据充分表明,低比特训练技术不仅具备良好的可扩展性,更展现出高度可靠的工程复现能力。面壁智能已围绕该技术构建起完整的低比特训练基础设施,覆盖环境兼容适配、32K长上下文支持、定制化融合算子等关键模块,为面向昇腾生态的后续低比特训练研发奠定了坚实底座。










