知识卡片
非线性步长延后局部搜索
BFO 的趋化步长(细菌每次移动的距离)若在搜索初期下降太快,群体会过早进入小范围搜索而早熟。原书指出,优化高维函数时,线性递减的步长在初期就已降到较小值。改进方案用 0~π 区间的余弦函数控制步长:余弦在 (0,π) 上初期下降慢,末期变化率也平缓。
下面用归一化形式 ((1+\cos(\pi t/T))/2) 与线性 (1-t/T) 对比,t 为当前迭代、T 为总迭代数(演示形式,原书未给具体公式):
| 进度 t/T | 线性 | 余弦形 |
|---|---|---|
| 0.1 | 0.90 | 0.98 |
| 0.5 | 0.50 | 0.50 |
| 0.9 | 0.10 | 0.02 |
前期余弦形保留更大的步长,延后局部精细搜索;末期变化平缓,便于以小步长稳定细搜。与按个体适应度调步长不同,这里调的是随迭代推进的下降曲线;具体效果仍需按函数维度、预算和参数验证。参见[[步长策略须区分阶段与个体]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 8 . 4 基 于 细 菌 觅 食 算 法 的 聚 类 问 题 · 查看原书依据
但是,在优化高维函数时,在算法初期,由于线性趋化步长就已降到了一个相对较小的值,使得局部搜索算法很快陷入早熟。结合优化算法的目的:一方面要提高算法的搜索效率,另一方面要尽量避免早熟问题。
参考来源
- 位置:《智能算法导论》第 8 章《基于细菌觅食算法的聚类问题:改进趋化操作》(源文件:_epub-src/EPUB/xhtml/chapter8_0007.xhtml)
- 结论依据:原文把高维函数上线性步长早期降得过小与搜索早熟相连,提出以 0~π 区间的余弦函数控制非线性下降;本节未给实验条件,故不把效果写成普遍保证。对比表中的归一化余弦形式与数值为依据原文“0~π 余弦控制”补充的教学演算,非书中公式或数据。
- 原始内容:在优化高维函数时,在算法初期,由于线性趋化步长就已降到了一个相对较小的值,使得局部搜索算法很快陷入早熟。