当使用scikit-learn训练大规模线性svm时，应优先选用linearsvc而非svc(kernel='linear')，因其底层基于liblinear优化，支持迭代控制与稀疏矩阵原生处理，可将训练时间从数十分钟降至秒级。
当使用scikit-learn训练大规模线性svm时，应优先选用linearsvc而非svc(kernel='linear')，因其底层基于liblinear优化，支持迭代控制与稀疏矩阵原生处理，可将训练时间从数十分钟降至秒级。
在您当前的代码中，虽然正确地将4个稀疏BoW特征（通过load_npz加载）与数值特征拼接，但关键瓶颈在于模型选择：SVC(kernel='linear')默认使用LibSVM求解器，它会将稀疏矩阵隐式转换为稠密数组（如您调用.toarray()所示），导致内存爆炸与计算冗余——10万样本 × 数千维BoW特征极易生成GB级稠密矩阵，严重拖慢训练。
✅ 推荐解决方案：改用LinearSVC并保留稀疏性
LinearSVC原生支持scipy.sparse矩阵，无需调用.toarray()，可直接拼接稀疏特征：
from sklearn.svm import LinearSVC
from scipy.sparse import hstack, csr_matrix
import numpy as np
# 加载稀疏BoW特征（保持csr_matrix格式）
title_feature = load_npz('train_title_bow.npz')
overview_feature = load_npz('train_overview_bow.npz')
tagline_feature = load_npz('train_tagline_bow.npz')
production_companies_feature = load_npz('train_production_companies_bow.npz')
# 数值特征转为稀疏矩阵（避免混合稠密/稀疏导致降级）
numerical_features = csr_matrix(df_train[df_train.columns.difference([
'title', 'overview', 'tagline', 'production_companies', 'rate_category',
'average_rate', 'original_language'
])].values)
# 水平拼接所有稀疏矩阵（高效、内存友好）
svm_X_train = hstack([
numerical_features,
title_feature, overview_feature,
tagline_feature, production_companies_feature
], format='csr')
svm_y_train = df_train['rate_category'].values
# 使用LinearSVC替代SVC，启用早停与并行加速
svm_classifier = LinearSVC(
C=1.0,
max_iter=1000, # 控制收敛速度（默认1000，可适当降低）
dual=False, # 对n_samples > n_features推荐设为False（本例适用）
tol=1e-3, # 放宽收敛阈值以提速
random_state=42,
n_jobs=-1 # 利用全部CPU核心
)
svm_classifier.fit(svm_X_train, svm_y_train)
⚠️ 关键注意事项：
- 绝对避免.toarray()：BoW特征通常极稀疏（>99%零值），转稠密会浪费百倍内存并触发OOM；hstack直接操作稀疏矩阵即可。
- 数值特征需转为csr_matrix：否则与稀疏BoW拼接时会强制转稠密，破坏稀疏优势。
- dual=False是性能关键：当样本数（100k）远大于特征数（即使BoW维度高，总维数仍常满足n_samples > n_features），设dual=False启用 primal solver，显著提速。
- max_iter与tol可权衡精度与速度：若初步验证效果达标，可将max_iter降至500或tol放宽至1e-2进一步提速。
? 补充建议：若仍有瓶颈，可考虑对BoW特征进行降维（如TruncatedSVD）或采样（如随机子集训练+集成），但通常LinearSVC + 稀疏拼接已能将45分钟训练压缩至1–2分钟内完成。
