如何在Python中使用BeautifulSoup提取网页表格并保存为CSV?

轻雪酱_5623

轻雪酱_5623

2026-11-01

377人浏览

原创

推荐优先使用 pandas.read_html() 解析静态网页表格,因其自动处理结构、类型推断和定位;仅当表格混乱(如跨行跨列混用、无ID/class)或需精细控制时,才用 BeautifulSoup 手动解析并注意占位数组、空单元格和编码问题。

如何在python中使用beautifulsoup提取网页表格并保存为csv?

直接用 BeautifulSoup 解析表格再手动拼 CSV 是可行的,但容易漏掉跨行(rowspan)、跨列(colspan)单元格,也难处理嵌套标签或空单元格。推荐先用 pandas.read_html() 提取,再用 BeautifulSoup 做兜底或精细控制。

什么时候该用 pandas.read_html() 而不是纯 BeautifulSoup

绝大多数静态网页表格(尤其是有清晰

结构的),pandas.read_html() 会自动识别、解析并返回 DataFrame 列表,省去遍历 tr/td 的麻烦,还内置了 header、skiprows、attrs 等过滤参数。

常见适用场景:

  • 表格没有 JS 渲染,源码里有完整
  • 页面含多个表格,但目标表格有唯一 id 或 class(可用 attrs={"id": "my-table"} 精准定位)
  • 需要保留数字类型(pandas 自动推断,BeautifulSoup 默认全为字符串)
  • 示例:

    import pandas as pd
    dfs = pd.read_html("https://example.com/page.html", attrs={"class": "data-table"})
    df = dfs[0]  # 取第一个匹配表格
    df.to_csv("output.csv", index=False)
    

    必须用 BeautifulSoup 手动解析的几种情况

    当表格结构混乱:比如

    里、或者
    和 混用、表头在
    标签被包裹在
    中且无 class/id 时,pandas.read_html() 可能失败或错位。

    此时需手动遍历,关键点:

    macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
    macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

    让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

    下载
    • 用 soup.find("table", {...}) 定位,别只靠 find_all("table") 硬索引
    • 逐行处理 tr,对每个 td 或 th 检查 rowspan/colspan 属性,维护一个二维“占位数组”模拟渲染位置(否则会漏数据)
    • 用 get_text(strip=True) 替代 .text,避免换行符和多余空格
    • 空单元格(
    )要显式写入 "",否则 CSV 列数会错乱

    简略示意逻辑:

    from bs4 import BeautifulSoup
    import csv
    <p>soup = BeautifulSoup(html, "html.parser")
    table = soup.find("table", {"id": "sales-data"})
    rows = table.find_all("tr")</p><p>with open("output.csv", "w", newline="") as f:
    writer = csv.writer(f)
    for row in rows:
    cells = row.find_all(["td", "th"])
    writer.writerow([cell.get_text(strip=True) for cell in cells])
    </p>

    to_csv() 常见编码与格式陷阱

    中文乱码、Excel 打开显示异常,基本都出在这几处:

    • 保存时没指定 encoding="utf-8-sig" —— Excel 默认用系统编码读 UTF-8,不加 BOM 就是乱码;用 "utf-8-sig" 才能正常打开
    • index=False 必须加,否则第一列多出序号,破坏表头对齐
    • 字段含逗号、换行或双引号时,csv.writer 默认会用双引号包裹,但若原始文本已有未转义双引号,会导致 CSV 解析错位;建议用 quoting=csv.QUOTE_MINIMAL(默认值)或更安全的 QUOTE_ALL
    • 如果目标是给 Excel 用户用,别省略 newline="" 参数,否则 Windows 上会多出空行

    真正麻烦的是那些合并单元格 + 动态加载 + 表头错位的表格——这时候得结合 requests-html 或 selenium 渲染,再喂给 BeautifulSoup,而不是硬刚解析逻辑。

    Python免费学习笔记(深入):立即使用
    在学习笔记中,你将探索 Python 的核心概念和高级技巧!

    相关文章

    PHP速学视频免费教程(入门到精通)
    PHP速学视频免费教程(入门到精通)

    PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

    下载

    相关标签:

    python csv

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

    相关专题

    更多
    python打包成可执行文件
    python打包成可执行文件

    本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

    2023.07.20

    1851

    4

    python能做什么
    python能做什么

    python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

    2023.07.25

    4964

    7

    format在python中的用法
    format在python中的用法

    Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

    2023.07.31

    1789

    3

    python教程
    python教程

    Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

    2023.08.03

    29777

    23

    python环境变量的配置
    python环境变量的配置

    Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    2023.08.04

    3547

    5

    python eval
    python eval

    eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    2023.08.04

    3567

    5

    scratch和python区别
    scratch和python区别

    scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

    2023.08.11

    1223

    5

    python合并两个列表
    python合并两个列表

    Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

    2023.08.10

    616

    4

    python是前端还是后端
    python是前端还是后端

    Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

    2023.08.11

    2763

    5

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    相关推荐
    /
    热门推荐
    /
    最新课程
    Uvicorn官方安装与入门手册
    Uvicorn官方安装与入门手册

    共0课时 | 0人学习

    Python uv官方项目管理指南
    Python uv官方项目管理指南

    共0课时 | 0人学习

    Python uv官方安装与入门文档
    Python uv官方安装与入门文档

    共0课时 | 0人学习