千万点可视化不可用 matplotlib.pyplot.scatter,因内存线性增长且前端渲染卡死;应选 datashader 光栅化聚合或 plotly.scattergl WebGL 渲染,并务必预处理数据去空值、离群值和裁剪无效区域。

用 matplotlib 直接画千万点基本不可行
默认的 matplotlib.pyplot.scatter 会为每个点生成独立的 PathCollection 对象,内存占用线性增长,1000 万点通常吃掉 4–6 GB 内存,且渲染时浏览器(尤其是 Jupyter Lab/Notebook 的前端)会反复重绘 SVG 或 Canvas,直接卡死或崩溃。
这不是配置问题,是底层设计限制 —— matplotlib 本质面向出版级静态图,不是大数据可视化引擎。
- 别试
plt.scatter(x, y, s=0.1)+plt.savefig():保存可能成功,但plt.show()或 notebook 中显示仍会卡住 - 禁用交互式后端(如
Agg)只解决保存,不解决“查看”需求 - 用
plt.plot(x, y, '.', markersize=0.1)略快一点,但仍是逐点绘制,无质变
真正能跑通的方案只有两个:降采样 + datashader,或换用 plotly 的 WebGL 模式
datashader 是专为大数据设计的光栅化库,它不画点,而是把坐标映射到像素网格上做聚合(计数、均值、最大值等),输出一张 PNG 或交互式 HTML;plotly 的 scattergl 则利用浏览器 GPU 加速绘制,实测支持 500 万–2000 万点流畅拖拽缩放。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限
-
datashader示例:import datashader as ds<br>import datashader.transfer_functions as tf<br>canvas = ds.Canvas(plot_width=800, plot_height=600)<br>agg = canvas.points(df, 'x', 'y')<br>img = tf.shade(agg)
输出img是 PIL 图像,可直接plt.imshow()或用bokeh展示 -
plotly示例:import plotly.graph_objects as go<br>fig = go.Figure(data=go.Scattergl(x=df['x'], y=df['y'], mode='markers', marker=dict(size=1)))<br>fig.show(renderer='browser')
注意必须用Scattergl(不是Scatter),且renderer设为browser才启用 WebGL - 二者都不加载全部点进前端内存:前者在服务端光栅化,后者由 GPU 批量处理顶点
别忽略数据预处理——千万点往往含大量重复或无效坐标
原始数据常有精度冗余(比如 GPS 经纬度保留 10 位小数)、空值、离群值,这些会严重拖慢聚合或 WebGL 渲染速度,甚至导致 datashader 报 ValueError: x values must be increasing(因 NaN 或 inf 导致排序失败)。
- 务必先运行:
df = df.dropna(subset=['x', 'y'])<br>df = df[np.isfinite(df['x']) & np.isfinite(df['y'])]
- 若坐标范围极大但有效区域集中(如全球 GPS 点中 99% 落在中国),先用布尔索引裁剪:
df = df[(df['x'] > 73) & (df['x'] 18) & (df['y']
- 对浮点列做
round()降精度(如df['x'] = df['x'].round(5))可减少哈希冲突,提升datashader聚合效率
plotly 的 Scattergl 在某些场景下会悄悄退化回 CPU 渲染
当开启 hover 提示(hovertemplate)、自定义颜色映射(marker.color 传大数组)、或 marker size 动态绑定列(marker.size=df['size'])时,plotly 可能自动切换回 Scatter 模式,此时千万点立刻卡死。
- 验证是否真用 WebGL:打开浏览器开发者工具 → “Rendering” 面板 → 勾选 “FPS Meter”,拖动图表时帧率应稳定在 30–60 FPS;若掉到 1–2 FPS,大概率已退化
- 安全做法:关闭 hover(
hoverinfo='skip'),用固定颜色(marker=dict(color='blue')),size 用标量(marker=dict(size=1)) - 若必须 hover,改用
datashader+holoviews实现稀疏 tooltip,或对原始数据抽样生成 hover 数据集
实际跑通的关键不在“怎么画”,而在“画什么”——你传给可视化的数据结构,决定了后端走哪条路径。GPU 渲染和光栅化都不是魔法,它们只对干净、紧凑、维度可控的数据起效。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!










