surprise不提供直接计算物品相似度矩阵的接口,其设计目标是推荐预测而非相似度分析;需训练knnbasic(user_based=false)后通过algo.sim获取稀疏物品相似度矩阵,注意索引映射与内存限制。

Surprise里没有直接算物品相似度矩阵的接口
Surprise 的设计目标是做推荐预测(比如预测用户对未评分物品的打分),不是做传统协同过滤里的相似度分析。它内部确实会计算用户或物品相似度,但这些中间结果不对外暴露——pearson 只能作为 sim_options 里的一个参数传给算法(如 KNNBasic),不能单独拿出来用。
如果你硬要从 Surprise 模型里“抠”出物品相似度矩阵,得走间接路径:训练一个基于物品的 KNN 模型,再手动访问其内部的 sim 属性。但注意:sim 是稀疏的、只存了 top-N 相似物品,默认不完整,而且依赖于训练时的 k 和 min_k 设置。
正确做法:用 Surprise 训练 KNNBasic 后提取物品相似度
必须用基于物品的协同过滤(user_based=False),否则得到的是用户相似度。训练完模型后,algo.sim 是一个 scipy.sparse.csr_matrix,行和列都对应物品 ID(不是原始 item_id,是 Surprise 内部映射后的整数索引)。
algo = KNNBasic(sim_options={'name': 'pearson', 'user_based': False})- 训练前确保数据已用
Dataset.load_from_df()或类似方式构建,且reader正确指定了评分范围(如rating_scale=(1, 5)) - 训练后
algo.fit(trainset),再通过algo.sim获取矩阵 - 若需还原为原始物品 ID 的相似度表,用
trainset.to_raw_iid()和trainset.to_inner_iid()转换索引
常见报错和坑点
最常遇到的是 AttributeError: 'KNNBasic' object has no attribute 'sim',这是因为没调用 fit() 就去访问 sim;或者用了 user_based=True 却误以为拿到的是物品相似度。
- 训练集太小或某物品评分过少(默认
min_support=1),会导致该物品在sim中全为 0 或被跳过 -
sim矩阵默认只保留非零值,用sim.toarray()转稠密矩阵前先确认内存是否够——10 万物品会生成 10GB+ 的 float64 矩阵 - Surprise 的皮尔逊实现会自动忽略共同评分少于 3 个的物品对(不可配置),这不是 bug,是源码里写死的阈值
- 如果原始数据含缺失值或非数值评分,
Dataset构建阶段就会报ValueError: rating must be a number
替代方案:自己用 pandas + scipy 算更可控
如果只是需要一个完整的、可导出的物品皮尔逊相似度矩阵,绕过 Surprise 更省事。核心是把交互数据 pivot 成 “物品 × 用户” 矩阵,再用 scipy.stats.pearsonr 或 pandas.DataFrame.corr() 计算。
- 用
df.pivot(index='item_id', columns='user_id', values='rating')构造稀疏评分矩阵 - 调用
item_matrix.T.corr(method='pearson'),注意T是为了按物品维度算相关性 - 缺失值多时,
corr()默认用 pairwise complete obs,和 Surprise 行为一致 - 结果是稠密
DataFrame,可直接保存为 CSV 或转成numpy.ndarray供后续使用
这个方式不依赖 Surprise 的内部逻辑,调试方便,也容易加自定义过滤(比如只算共同评分数 ≥5 的物品对)。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











