os.walk()是Python标准库中遍历深层目录最直接的方法,它天然递归、返回(root, dirs, files)三元组,支持原地修改dirs剪枝、深度优先遍历且不栈溢出。

用 os.walk() 遍历深层目录最直接
os.walk() 是 Python 标准库中处理嵌套目录的首选,它天然支持递归、不依赖第三方包、且能同时拿到路径、子目录名和文件名。它按深度优先顺序逐层下探,每进入一个目录就返回一次三元组,不用自己写递归逻辑或担心栈溢出。
常见错误是误以为它只返回文件路径——其实它返回的是 (root, dirs, files),其中 dirs 是当前目录下的子目录列表(可原地修改以控制是否继续遍历),files 才是当前目录下的文件名列表。
- 想跳过某些子目录?直接对
dirs做 in-place 修改,比如dirs[:] = [d for d in dirs if d != "node_modules"] - 要获取完整文件路径?用
os.path.join(root, f)拼接,别用字符串拼接 - 注意
os.walk()默认会遍历所有子目录,包括符号链接指向的目录(除非传follow_symlinks=False)
用 pathlib.Path.rglob() 过滤文件更简洁
如果你用的是 Python 3.5+,pathlib 的 rglob() 是更现代、更可读的选择。它本质是递归版的 glob(),支持通配符,返回 Path 对象,自带路径操作方法。
典型误用是写成 Path("root").rglob("*.py") 后直接打印结果——但 rglob() 返回的是生成器,不加 list() 或循环遍历,你看不到任何输出;另外它不会自动排除 .git 或 __pycache__ 这类目录,得靠模式或后续过滤。
- 匹配多个后缀:写成
rglob("*")再用.suffix in {".py", ".js"}判断,别试图用**/*.py|*.js(glob 不支持|) - 跳过隐藏目录:在循环里加
if not part.name.startswith("."),或用is_dir() and part.name.startswith(".")提前 continue -
rglob()性能略低于os.walk(),因为内部做了更多路径解析;对百万级小文件目录,差异会明显
过滤逻辑放哪?别在遍历中途做 I/O 判断
很多人习惯在遍历过程中对每个文件调用 os.path.getsize() 或 open().read(100) 来判断内容,这会导致严重性能下降——尤其是网络文件系统或大目录时,I/O 成为瓶颈。
真正该在遍历时做的,只有轻量过滤:扩展名、文件名模式、路径关键词、stat() 中的元信息(如 st_size、st_mtime)。重逻辑(比如读文件头、正则匹配内容)应放到筛选后的文件列表上批量处理。
- 扩展名过滤优先用
path.suffix.lower() == ".log",别用str(path).endswith(".log")(路径含大小写时易错) - 需要排除临时文件?检查
path.name.startswith(".") or path.name.endswith("~") or path.name.endswith(".swp") - 用
path.stat().st_size > 0过滤空文件,比os.path.getsize()稍快,因复用已有的stat结果
遇到权限错误或中断怎么办?os.walk() 默认不捕获异常
os.walk() 在遇到无权限目录(如 /root)或损坏符号链接时,默认抛出 PermissionError 或 OSError 并终止整个遍历。这不是 bug,是设计行为——它不帮你吞异常。
解决办法是把 os.walk() 包进 try/except,并在 topdown=True 模式下,用 onerror 回调接管错误。这个回调函数接收一个异常对象,你可以选择忽略、记录,或主动从 dirs 中移除问题目录。
- 最简容错:传
onerror=lambda err: None,静默跳过所有错误目录 - 想记录但不停止:用
logging.warning("skip %s: %s", err.filename, err) -
pathlib.rglob()遇到权限错误会直接抛出,没内置onerror机制,必须用try/except包裹整个循环
实际递归过滤的关键不在“怎么走”,而在“在哪停”和“怎么筛”。很多人卡在路径拼接错误或异常中断上,而不是算法本身。多花十秒看一眼 os.walk() 的文档里 dirs 可修改那句,比查五篇博客有用。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











