这次预发布修复了一个特定的加速路径。若掩码只在少量头或批次之间共享,旧逻辑可能在直接读取时越界。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

哪些后端和形状会触发
llama.cpp b12470 涉及 SYCL 后端借助 MKL 执行 Flash Attention 的路径。掩码头数或批次数大于一、同时小于对应查询维度时,需要按广播关系复用掩码。

错误会怎样体现
维护者记录,相关输入使用 f16 的 K/V 可触发设备丢失错误,使用 q8_0 的 K/V 可能出现 NaN。两种表现来自同一条件下的掩码访问问题。
适用到哪些构建
这项修复随 llama.cpp b12470 的预发布构建交付。使用其他后端或未走 MKL Flash Attention 的情形,需要按对应后端和出错路径定位。











