多项式特征是通过扩展原始特征（如x→[1,x,x²]）使线性模型在高维空间拟合直线，从而在原始空间表达曲线关系；它不改变模型线性本质，而是工程化解决非线性问题的技巧，需配合fit_transform/transform、标准化及Pipeline部署。

线性模型（比如 LinearRegression 或 LogisticRegression）本身只能拟合超平面——也就是直线、平面或高维仿射结构。当真实关系是弯曲的（比如房价随面积先快后慢增长，或二分类边界是月牙形），不加改造的线性模型会系统性欠拟合。

多项式特征本质是“欺骗”线性模型

它不改变模型结构，而是把原始特征 x 拆解成 [1, x, x**2, x**3, ...] 这类新列，让线性模型在扩展后的空间里拟合一条“直线”。这条直线，在原始空间里就表现为曲线。所以它不是非线性模型，而是用线性模型解决非线性问题的工程技巧。

• 必须配合 fit_transform() 和 transform() 分开调用：训练时用 fit_transform() 学习生成规则；预测时只用 transform() 保证新样本按同一套规则扩展，否则部署会出错
• PolynomialFeatures 默认生成所有交叉项（如 x1*x2），对多元输入爆炸快：2个特征 + degree=3 → 10 维；3个特征 + degree=3 → 20 维；别盲目开高阶
• 不做标准化直接接线性模型容易数值不稳定——x 和 x**3 量纲差几个数量级，建议套 StandardScaler 在 pipeline 里

什么时候该用，而不是换模型？

适合场景：关系平滑、单调、无突变，且你希望保留线性模型的可解释性或推理速度。比如物理实验中已知服从二次定律，或业务指标有明确幂律经验公式。

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限

下载

• 若散点图显示多个峰/拐点/环状结构（如 make_moons），PolynomialFeatures 很容易过拟合，此时应优先考虑 SplineTransformer 或树模型
• degree=2 覆盖大部分单峰弯曲；degree=3 仅在有明确拐点证据时尝试；超过 3 基本要配正则化（Ridge 或 Lasso）
• 交叉验证必须看 neg_mean_squared_error 或 accuracy 在验证集而非训练集的变化——训练误差降但验证误差升，就是过拟合信号

生产部署最容易漏掉的一步

保存模型时，PolynomialFeatures 是有状态的转换器，它的 degree、interaction_only、甚至训练数据的维度都固化在 fit 后的实例里。只保存 LogisticRegression 对象会导致线上 transform() 报错 ValueError: X has 2 features, but PolynomialFeatures is configured to use 3。

• 必须同时保存 PolynomialFeatures 实例和模型（用 joblib.dump() 打包整个 pipeline 更稳妥）
• 加载后调用前，务必用 pipeline.predict() 而非单独调用 poly.transform() + model.predict()，避免中间维度不一致

真正难的不是加 degree=3，而是判断弯曲是否真由多项式主导——画图、看残差、做假设检验，比调参重要得多。

Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！