LLVM MLIR怎么释放Bufferization产生的内存

梦瑶大大_4104

梦瑶大大_4104

2026-09-30

336人浏览

原创

bufferization 后内存释放由所有权分析驱动,启用 one-shot-bufferize 和新版 buffer-deallocation 流水线,仅对 owned memref 插入 dealloc;to_buffer 生成的 memref 不归 mlir 管理,需 host 显式释放。

llvm mlir怎么释放bufferization产生的内存

Bufferization 后的内存释放由所有权分析驱动,不是手动调用 free 或 dealloc

MLIR 的 Bufferization 不生成裸指针或原始 malloc/cudaMalloc 调用,而是通过 memref 语义建模内存生命周期。释放行为完全由 pass 流水线中启用的「所有权感知(ownership-aware)」释放机制决定,而非用户插入 memref.dealloc —— 那样反而容易破坏别名关系、引发 double-free 或 use-after-free。

必须启用 buffer-deallocation 流水线,且依赖 One-Shot Bufferize 的分析结果

旧版 buffer-deallocation pass 已被弃用,它仅做简单后序扫描,无法处理跨 block 别名、DPS 操作复用、或 tensor 返回值与 outs operand 共享 buffer 的情况,极易漏掉释放或重复释放。

  • 新流程要求先运行 one-shot-bufferize(带完整 AnalysisState),它会标记每个 memref 是否为「owned」、「borrowed」或「view」
  • 随后必须接 buffer-deallocation(新版),该 pass 仅对 owned memref 插入 memref.dealloc,且跳过所有 view 和已由 runtime 管理的 buffer(如来自 bufferization.to_buffer 的)
  • 若 IR 中含函数调用边界,需额外启用 func.func 的 bufferization 支持(如 --bufferize-function-boundaries),否则函数参数/返回值的 ownership 无法正确传播

bufferization.to_buffer 返回的 buffer 不归 MLIR 管理,必须由外部 runtime 显式释放

当你用 bufferization.to_buffer %t 将 tensor 转为 memref,这个 memref 的 lifetime 完全脱离 MLIR 的 ownership 分析链。常见错误是期望 buffer-deallocation 自动处理它 —— 实际上它会被标记为 borrowed,pass 直接跳过。

知识星球
知识星球

知识星球是一款AI文本写作工具,内容创作者的知识社群运营工具。

下载
  • 典型场景:CUDA kernel 输入来自 cudaMalloc,你用 bufferization.to_buffer 包装后传入 linalg op;此时 MLIR 不插 memref.dealloc,释放责任仍在 host 侧
  • 若需 MLIR 管理,应避免 to_buffer,改用纯 tensor IR + DPS ops,让 one-shot-bufferize 在分析阶段将输出 alias 到输入 buffer(即 inplace)
  • 混合场景下,可用 memref.assume_alignment 或 memref.extract_aligned_pointer 显式导出指针,但必须同步在 host 侧配对释放

GPU 场景下 page migration 不触发自动释放,memref.dealloc 只作用于逻辑地址空间

即使 buffer-deallocation 正确插入了 memref.dealloc,它也只通知 MLIR 运行时「该 memref 句柄作废」,不等价于调用 cudaFree。实际物理内存是否回收,取决于底层 runtime 如何映射 memref 到设备内存。

  • 若 memref 来自 gpu.alloc,则 memref.dealloc 会被 lowering 到 gpu.free
  • 若 memref 是 host 分配后用 bufferization.to_buffer 包装的,则 memref.dealloc 无实际 effect,必须由 host 代码调用 cudaFree 或 free
  • Unified Memory(cudaMallocManaged)下,memref.dealloc 仍只释放逻辑引用,page migration 状态由 CUDA 驱动按访问模式自动管理,与 MLIR 无关

真正容易被忽略的是:ownership 分析只在 SSA 链完整、无 external side-effect(如未建模的 runtime call)时才可靠。一旦 IR 中混入未声明 memory effect 的 external 函数,one-shot-bufferize 就可能误判 buffer 可复用,导致静默覆盖 —— 这比内存泄漏更危险。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

2026.09.30

0

26

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

2026.09.29

0

15

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

2026.09.23

200

15

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

2026.09.23

120

15

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

2026.09.23

100

15

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

2026.09.22

60

12

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

2026.09.22

80

13

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

2026.09.22

60

19

loomy官网入口地址合集
loomy官网入口地址合集

本专题汇总了 Loomy 桌面 AI 助理的官方入口地址合集及使用指南。提供 macOS 与 Windows 客户端下载 。Loomy 是讯飞推出的桌面级 AI 工作搭子,支持文件整理、数据分析、网页操作及通过飞书/钉钉远程操控电脑,助你高效完成本地办公任务 。

2026.09.22

80

19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程