np.linalg.svd 返回 u、s、vh 三者:u 是左奇异向量矩阵(正交),s 是降序一维奇异值数组,vh 是右奇异向量的共轭转置(非 v 本身);s 需构造成对角矩阵 Σ 才能参与 a = u @ Σ @ vh 重建。

np.linalg.svd 返回的三个数组分别是什么
调用 np.linalg.svd 得到的是三个对象:U、s、Vh,不是 V。其中 s 是一维数组,只包含奇异值(按降序排列),不带矩阵结构;U 和 Vh 才是正交矩阵,维度需匹配原矩阵 A 的形状。常见错误是误把 s 当作对角矩阵直接参与乘法——必须用 np.diag(s) 或更稳妥的 np.zeros + 填充构造 Σ。
-
U.shape == (m, m)(若full_matrices=True),或(m, min(m,n))(默认full_matrices=False) -
s.shape == (min(m, n),),永远是一维 -
Vh.shape == (n, n)或(min(m,n), n),注意它是V的共轭转置,不是V
如何重构原始矩阵 A ≈ U @ Σ @ Vh
重构的关键在于让 s 参与矩阵乘法时维度对齐。最常用且安全的做法是手动构造 Σ 矩阵:先初始化全零矩阵,再沿主对角线填入 s。不要依赖 np.diag(s) 直接用于不同尺寸的 U 和 Vh,它生成的方阵可能尺寸不匹配。
- 设
A为(m, n)矩阵,取min_dim = min(m, n) - 构造
Sigma = np.zeros((m, n)),再执行Sigma[:min_dim, :min_dim] = np.diag(s) - 验证:
np.allclose(A, U @ Sigma @ Vh)应返回True - 若只想要前
k个奇异值近似,截断U[:, :k]、s[:k]、Vh[:k, :],再同样构造小尺寸Sigma_k
为什么 svd 有时报错 “SVD did not converge”
这个错误(numpy.linalg.LinAlgError: SVD did not converge)通常不是代码写错了,而是输入数据存在数值病态问题:比如某列全为 0、极端缩放(如同时含 1e-15 和 1e8)、含 nan 或 inf。NumPy 底层调用 LAPACK 的 dgesdd,对这类矩阵容易失败。
- 先检查:
np.isnan(A).any()、np.isinf(A).any()、np.allclose(A, 0) - 做预处理:对每列做标准化(
sklearn.preprocessing.StandardScaler或手动减均值除标准差)能显著提升收敛率 - 临时缓解:改用
np.linalg.svd(A, lapack_driver='gesvd')(更稳健但稍慢),不过该参数在较新 NumPy 中已被弃用,建议优先修数据 - 替代方案:对大矩阵或病态矩阵,可考虑
scipy.sparse.linalg.svds(只算前 k 个)或sklearn.decomposition.TruncatedSVD
使用 truncated SVD 做降维时 shape 容易错在哪
用 sklearn.decomposition.TruncatedSVD 时,transform(X) 输出是 (X.shape[0], n_components),即样本数 × 特征数;而手写 U @ Sigma(保留前 k 列)得到的是 (m, k),看起来一样,但含义不同:前者是投影后的样本表示,后者是左奇异向量加权——二者数值等价的前提是 X 已中心化。但 TruncatedSVD 默认**不中心化**,这点和 PCA 有本质区别。
- 若你期望类似 PCA 的效果,必须自己先对
X列减均值(X_centered = X - X.mean(axis=0)),再喂给TruncatedSVD -
components_属性是Vh的前k行(即(k, n_features)),不是V - 想复现
transform结果?用X @ Vh.T(注意Vh是svd返回的,不是components_)
实际应用中,奇异值衰减快慢比分解本身更重要——画出 s / s[0] 曲线,才能判断保留多少分量合适。这个步骤常被跳过,结果就是降维后信息损失不可控。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











