7月30日,腾讯混元团队正式对外开源端到端投机解码框架angelspec,并同步发布hy3-a21b模型的mtp与dfly drafter权重文件及完整训练代码。该框架贯通训练、模型架构设计到线上部署全流程,是国内首个具备全栈能力的开源投机解码工具链。
全新一代drafter模型DFly采用并行化结构设计,并以提升接受率为核心优化目标,在4至64并发规模下,于六大主流基准测试中相较传统自回归解码平均提速1.98–2.40倍,平均接受长度达4.79。为突破高并发场景下的验证性能瓶颈,框架创新引入D-cut机制,实测在线流量回放吞吐量最高提升15.7%。同时,借助TTT技术有效弥合MTP训练与推理阶段的不一致性,使对话类任务平均接受率跃升至66.4%。
AngelSpec底层基于TorchSpec构建,支持最长128k上下文长度训练,并提供模块化插件配置能力,致力于为开发者交付即装即用的高效推理加速基础设施。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜












