矩阵乘法慢的核心原因是列访问导致缓存失效，因行主序存储下bk与bk+1内存地址相距一整行，引发频繁缓存换入换出；块访问（blocking/tiling）通过将矩阵划分为适配l1/l2缓存的小块（如16–64），使数据在需要时驻留缓存，大幅提升命中率与带宽利用率。
矩阵乘法慢，往往不是算得少，而是读得乱。缓存优化的核心不是改算法逻辑，而是让数据“刚好在需要时就在缓存里”——块访问（Blocking / Tiling）就是实现这一点最直接有效的方法。
为什么列访问会让缓存失效
主流语言（C/C++/Java等）中二维数组默认按行主序（row-major）存储：A[i][k] 和 A[i][k+1] 在内存中紧挨着；但 B[k][j] 和 B[k+1][j] 却相隔一整行（N个元素）。当内层循环遍历 k 时，每次读 B[k][j] 实际都在跳着取地址，缓存行反复被换入换出，命中率骤降。
- 一个 2048×2048 的 float 矩阵占约 16MB，远超 L1（通常 32–64KB）和 L2 缓存
- 未分块时，B 的同一列元素可能分散在数百个不同缓存行中
- 即使只算一个 C[i][j]，也要把整列 B 从内存拖一遍，带宽全耗在搬运上
块大小怎么选：平衡局部性与开销
块尺寸 B 不是越大越好，也不是越小越灵。它必须满足：单个块（如 B×B 的 A 块、B 块、C 块）能同时驻留在 L1 或 L2 缓存中，且留有空间给临时寄存器和循环变量。
- 经验起点：L1 缓存约 32KB → 可容纳约 8K 个 float（4B）→ 对应块大小 B ≈ 90（90×90≈8100）
- 实际常用值：16、32、64（2的幂便于编译器对齐与展开）
- 太小（如 B=4）：块调度开销（循环控制、边界判断）占比过高
- 太大（如 B=128）：超出缓存容量，块内又出现新层级的不局部性
三重分块循环结构要写对
关键不在“分块”，而在“访存顺序”。标准分块写法强制让内层计算集中在一小片连续内存上：
- 外层按块索引（ii, jj, kk），控制哪一块参与当前计算
- 中层按块内偏移（i, j, k），确保 A[ii][k]、B[k][jj]、C[ii][jj] 都落在各自块的连续段内
- A 按行块读、B 按列块读 → 但分块后，B 的“列块”在内存中其实是连续的矩形区域（因列是跨行跳的，而块高 B 让跳跃距离压缩到 B×stride）
- 最终 C 的更新也是按块写入，提升写缓存合并效率
配合其他优化效果更明显
分块是缓存优化的骨架，单独用已有显著收益；叠加以下手段可进一步释放硬件潜力：
- 循环交换：把 k 循环提到最内层，使 A[i][k] 和 B[k][j] 的访问都变成步长为 1 的连续流
- 数据预取：在计算当前块前，用 __builtin_prefetch 提前加载下一个 B 块到缓存
- 向量化：内层循环用 SIMD 指令一次处理 4/8 个 float，需保证内存对齐（如用 aligned_alloc）
- 多线程并行：对外层 ii 或 jj 循环加 OpenMP，避免线程间写同一块 C 引发 false sharing
