如何在Python中利用Scikit-learn对大规模稀疏矩阵进行降维？-Python教程-PHP中文网

truncatedsvd比pca更适合稀疏矩阵，因其无需中心化、全程保持稀疏结构；pca强制转稠密导致oom或报错，而truncatedsvd直接在稀疏矩阵上迭代求解，时间和空间复杂度仅与非零元相关。

如何在python中利用scikit-learn对大规模稀疏矩阵进行降维？

稀疏矩阵传给PCA会报错`ValueError: Non-negative number of samples expected`

直接把scipy.sparse矩阵（比如csr_matrix）丢进sklearn.decomposition.PCA会立刻失败——PCA内部强制调用np.asarray()，把稀疏矩阵转成稠密数组，内存爆炸不说，还会因维度不匹配触发这个错误。这不是配置问题，是设计限制。

解决办法只有两个：换算法，或预处理。推荐优先用TruncatedSVD，它是专为稀疏输入设计的SVD变种，接口和PCA几乎一致，但底层用ARPACK或Randomized SVD，不转稠密。

TruncatedSVD默认使用algorithm='randomized'，对百万级特征+十万级样本的csr_matrix很友好
别设n_components超过min(n_samples, n_features) - 1，否则fit()会静默截断，结果维度不对
它不中心化数据（sparse矩阵没法高效减均值），所以降维后不能直接当PCA用——如果下游需要零均值，得自己用StandardScaler(with_mean=False)先缩放

为什么`TruncatedSVD`比`PCA`更适合稀疏数据

PCA本质依赖完整的协方差矩阵计算，而稀疏矩阵显式构造协方差等价于稠密化；TruncatedSVD则直接在原始稀疏矩阵上迭代求前k个奇异向量，时间和空间复杂度都只与非零元数量相关。

实测对比（10万×5万的csr_matrix，密度0.001）：

PCA(n_components=100)：OOM或卡死
TruncatedSVD(n_components=100, algorithm='arpack')：约4分钟，内存峰值≈2GB
TruncatedSVD(n_components=100, algorithm='randomized', n_iter=7)：约90秒，内存峰值≈800MB

algorithm='randomized'精度略低但快得多，对大多数文本/推荐场景足够；若需高精度且样本数'arpack'。

降维后保留稀疏性？小心`transform()`返回稠密数组

TruncatedSVD.fit_transform(X)返回的是np.ndarray，不是稀疏矩阵——即使输入是csr_matrix。这是API设计决定的，无法绕过。

Python 3.14.2

Python 3.14.2是Python编程语言在2025年12月5日发布的稳定版本，属于3.14系列的第二个维护更新。该版本包含了18项修复，重点解决了多进程、数据类及正则表达式等模块的回归问题，并修复了CVE-2025-12084等安全漏洞。此版本标志着自由线程模式（移除GIL）正式获得官方支持，是Python发展的重要里程碑。

下载

如果你后续还要拼接其他稀疏特征，得手动转回稀疏格式：

from scipy.sparse import csr_matrix
svd = TruncatedSVD(n_components=100)
X_reduced = svd.fit_transform(X_sparse)  # X_reduced 是 dense ndarray
X_reduced_sparse = csr_matrix(X_reduced)

注意：csr_matrix(X_reduced)会复制数据，内存翻倍；如果只是临时用，保持稠密更省事；真要长期存稀疏，考虑用np.float32类型初始化X_reduced减少一半内存。