推荐DEAP实现遗传算法参数优化,因其将选择、交叉、变异封装为可插拔组件,无需手写完整种群循环;需确保个体为list、适应度为元组、混合参数按序拼接、避免evaluate中耗时操作。

用 deap 实现遗传算法参数优化最省事
直接上手推荐 deap,不是因为它最强大,而是它把选择、交叉、变异这些操作封装成可插拔组件,不强制你写完整种群循环。你自己定义适应度函数和编码方式后,几行就能跑起来,比从零手写 random + numpy 模拟快得多。
常见错误是把参数直接当浮点数丢进种群——deap 默认种群个体是 list,但没规定类型;如果你传 float 进去,交叉(比如 cxBlend)会报 TypeError: 'float' object is not subscriptable。必须确保每个个体是可索引的序列,例如 [0.23, 15, 4.8] 这样的 list 或 array。
- 初始化种群用
tools.initRepeat(population, toolbox.individual, n=POP_SIZE),其中toolbox.individual必须返回一个list - 适应度值必须是元组,哪怕只优化一个目标:返回
(fitness_value,),不能是fitness_value - 如果参数有边界,别在变异后手动截断;改用
tools.mutPolynomialBounded,它原生支持low/up参数
如何编码混合类型参数(整数+浮点+类别)
真实模型调参经常混着来:学习率(浮点)、树深度(整数)、激活函数('relu'/'tanh')。硬塞进一个浮点数组再解码容易出错,也难约束。
更稳的做法是用字典结构编码,再映射为一维向量供遗传操作——但 deap 的标准算子只认 list。所以折中方案是:定义固定顺序的键名列表,如 ['lr', 'depth', 'act'],然后让 individual 返回按此顺序拼接的 list,解码时再按位置还原。
- 整数参数(如
depth)用random.randint(a, b)初始化,变异用mutUniformInt - 类别参数(如
act)转为索引整数(0→'relu', 1→'tanh'),初始化用random.choice([0,1]),变异用mutFlipBit - 所有参数统一缩放到 [0,1] 再进种群?没必要。不同量纲参数对变异步长敏感度不同,直接按原始范围设置
low/up更可控
evaluate() 函数里别做耗时操作
遗传算法要反复调用 evaluate() 成百上千次,这里卡住就全崩了。典型陷阱是每次评估都重新加载数据、重构建模型、甚至发起 HTTP 请求。
正确做法是把静态资源提到外面:数据用全局变量或闭包捕获,模型结构提前定义好,只在 evaluate() 里做前向传播和指标计算。如果你用 sklearn,注意 fit() 是最贵的一步,务必限制训练轮数或样本量。
- 用
functools.partial把数据集和验证逻辑预绑定,避免每次传一堆参数 - 加个简单缓存:用
tuple(individual)当 key 缓存最近 100 个适应度结果,防重复评估(尤其种群内相似个体多时) - 如果评估本身不稳定(如含 dropout 或随机采样),至少设固定
random.seed和torch.manual_seed,否则进化方向会抖
收敛慢或早熟?先检查这三个地方
跑了 50 代,适应度卡在某个值不动,大概率不是算法不行,而是配置拧巴了。
- 种群大小
POP_SIZE太小(比如 - 交叉概率
CXPB过高(>0.9):个体老被“拆开重组”,优质片段保不住;0.6–0.8 更稳妥 - 没开精英保留(
tools.selBest):最优个体可能某次变异就被干掉;加一行offspring[0] = tools.clone(best_ind)能显著稳住下限
真正麻烦的是适应度函数本身存在平坦区或噪声峰——这时候遗传算法再调参也没用,得回头重设计评估逻辑。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











