如何正确导出并查看网页爬取的股票数据(CSV/Excel格式)

云涛君_7019

云涛君_7019

2026-10-22

818人浏览

原创

如何正确导出并查看网页爬取的股票数据(CSV/Excel格式)

本文介绍解决网页爬虫后csv文件在excel中仅显示表头、无数据行的问题,提供更简洁可靠的pandas方案,包括直接导出excel、使用read_html自动解析表格,以及关键注意事项。

本文介绍解决网页爬虫后csv文件在excel中仅显示表头、无数据行的问题,提供更简洁可靠的pandas方案,包括直接导出excel、使用read_html自动解析表格,以及关键注意事项。

在使用 BeautifulSoup 手动解析 HTML 表格并构建 DataFrame 后,若导出的 CSV 文件在 Excel 中打开时仅显示列名而无实际数据行,通常并非数据丢失,而是以下常见原因导致的显示或导出异常:

  • 编码问题:默认 UTF-8 编码的 CSV 在 Excel(尤其 Windows 版)中可能无法正确识别中文或特殊字符,导致乱码或空行;
  • 换行符/不可见字符干扰:td.text 可能包含多余空白、换行符(\n)、零宽空格等,破坏 CSV 结构;
  • 手动构建 DataFrame 效率低且易出错:如原代码中使用 df.loc[l] = r2 动态追加行,在大数据量下性能差,且易因索引错位导致空行或覆盖。

✅ 推荐解决方案:直接使用 pandas.read_html()

该方法底层已集成 HTML 解析逻辑(内部调用类似 BeautifulSoup 的机制),自动处理表头识别、单元格清洗与结构对齐,代码更简、鲁棒性更强:

Excel XLSX Formula Cleanup
Excel XLSX Formula Cleanup

诊断并修复涉及公式、命名范围、Power Query 刷新、数据透视表、VBA/宏保存等问题的 Microsoft Excel XLSX 工作簿

下载
import pandas as pd

# 自动抓取页面中所有匹配 'TRADING CODE' 的表格(即目标表格)
df_list = pd.read_html('https://www.dsebd.org/top_20_share.php', match='TRADING CODE')

# 保存第一个表格(通常为“Top 20 Shares by Value”)
df_list[0].to_csv("top_20_share_value.csv", index=False, encoding='utf-8-sig')  # 关键:添加 utf-8-sig 防止Excel乱码

# 或直接导出为 Excel(无需额外库,pandas 依赖 openpyxl/xlsxwriter 即可)
df_list[0].to_excel("top_20_share_value.xlsx", index=False)

? 关键注意事项:

  • ✅ 使用 encoding='utf-8-sig' 导出 CSV:这是 Excel(Windows)正确读取中文的关键,utf-8-sig 会在文件开头写入 BOM,让 Excel 识别编码;
  • ✅ 添加 index=False:避免导出冗余的行索引列;
  • ✅ 优先选用 .to_excel():规避 CSV 编码兼容性问题,支持公式、格式、多工作表;
  • ⚠️ 若需保留超链接(如股票代码的 <a></a> 标签),read_html() 默认只提取文本;此时应改用 BeautifulSoup + 显式清洗(如 strip() + replace('\n',' ')),但本场景中纯数值/文本数据无需链接,read_html 更优。

总结:放弃手动遍历 <tr>/<code><td> 构建 DataFrame,拥抱 <code>pandas.read_html() —— 它更简洁、健壮、可维护,并配合 utf-8-sig 编码或直接导出 Excel,即可彻底解决“Excel 看不见数据行”的困扰。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

excel csv

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1791

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4664

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1749

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

27617

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3327

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3347

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1203

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2583

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 44.5万人学习

成为PHP架构师-自制PHP框架
成为PHP架构师-自制PHP框架

共28课时 | 3.6万人学习