如何在Python中利用NumPy进行稀疏矩阵的转换与存储?

陌婷同学_8461

陌婷同学_8461

2026-06-29

210人浏览

原创

numpy本身不支持稀疏矩阵,因其设计为稠密数组,会为所有元素(含大量零)分配内存;必须使用scipy.sparse(如coo、csr、csc等格式)实现高效存储与计算,且转换和操作需谨慎避免隐式转稠密。

如何在python中利用numpy进行稀疏矩阵的转换与存储?

NumPy 本身不支持稀疏矩阵——直接调用 numpy.array 或 numpy.matrix 加载大规模稀疏数据,会立刻吃光内存。真要处理稀疏结构,必须切换到 scipy.sparse,并谨慎选择格式和转换路径。

为什么不能直接用 NumPy 创建稀疏矩阵

NumPy 的核心是稠密数组,所有元素都占内存。哪怕你只存 100 个非零值,用 np.zeros((10000, 10000)) 就已分配约 800MB 内存(float64)。这不是“效率低”,而是根本不符合稀疏场景的设计前提。

  • np.array 没有跳过零值的存储机制
  • 没有内置的稀疏索引、压缩行/列等结构支持
  • scipy.sparse 中的各类格式(如 csr_matrix、csc_matrix)才是专为稀疏设计的底层实现

如何从坐标列表(COO)安全转成 CSR/CSC 格式

最常见输入是三元组:行索引、列索引、值(比如来自文件或计算结果)。直接喂给 scipy.sparse.coo_matrix,再转 csr_matrix,是最稳妥的起点。

  • 避免直接用 coo_matrix((data, (row, col)), shape=...) 后立刻调用 .tocsr() —— 如果 row/col 未排序或含重复项,tocsr() 内部会自动去重求和,但不报错,容易掩盖数据问题
  • 显式检查重复:用 np.unique(np.column_stack([row, col]), axis=0, return_index=True) 看是否有多余索引
  • 若需保留原始重复项语义(如累加),应先用 scipy.sparse.coo_matrix 构造,它默认合并;若需保留,得自己聚合 data 数组

示例:

Python Use Agent
Python Use Agent

智能执行Python任务,自动生成、执行代码并反馈结果,无需额外配置,兼容旧命令。

下载
from scipy import sparse
import numpy as np
<p>row = np.array([0, 1, 2, 0])
col = np.array([0, 1, 2, 2])
data = np.array([1, 2, 3, 4])  # (0,2) 出现两次 → 值会相加为 7</p><p>coo = sparse.coo_matrix((data, (row, col)), shape=(3, 3))
csr = coo.tocsr()  # 自动压缩、排序、去重求和</p>

保存稀疏矩阵时该选 .npz 还是 .mtx?

别用 np.save 或 pickle——它们会把 csr_matrix 当普通对象序列化,失去格式优势,且跨 Python 版本可能失效。优先选两种方案:

  • scipy.io.mmwrite + mmread:输出 Matrix Market 格式(.mtx),纯文本可读,通用性强,适合调试或跨语言交换
  • np.savez_compressed 存 CSR 的三个核心数组:.data、.indices、.indptr,加载时手动重建:sparse.csr_matrix((data, indices, indptr), shape=...),体积小、速度快,适合 Python 内部流转
  • 避免 np.savez(不压缩)——稀疏矩阵的 .data 数组虽小,但 .indptr 长度是 n_rows+1,大矩阵下也显著,不压缩浪费 IO

CSR 和 CSC 在什么操作下会意外变稠密

看似无害的操作可能触发隐式转换:一旦调用 .toarray()、.A、np.array(sparse_mat),就全量展开为 np.ndarray,内存爆炸风险立即生效。

  • 布尔索引如 mat[mat > 0.5] 返回的是 np.ndarray,不是稀疏子集
  • mat + dense_array 会广播成稠密结果(除非 dense_array 是标量或形状严格匹配且为 0)
  • 乘法中混用 np.dot(mat, dense_vec) 安全,但 mat @ dense_mat.T 若 dense_mat 太大,中间结果可能撑爆内存

真正需要切片时,优先用 mat[i:j, k:l](返回同格式稀疏子矩阵),而不是先转稠密再切。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1671

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4144

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23977

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2927

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2967

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2303

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程