返回主题:强化学习与多智能体

知识卡片

普通读书笔记卡 · 3755.a.1.a

非线性步长延后局部搜索

理解等级:高级

BFO 的趋化步长(细菌每次移动的距离)若在搜索初期下降太快,群体会过早进入小范围搜索而早熟。原书指出,优化高维函数时,线性递减的步长在初期就已降到较小值。改进方案用 0~π 区间的余弦函数控制步长:余弦在 (0,π) 上初期下降慢,末期变化率也平缓。

下面用归一化形式 ((1+\cos(\pi t/T))/2) 与线性 (1-t/T) 对比,t 为当前迭代、T 为总迭代数(演示形式,原书未给具体公式):

进度 t/T 线性 余弦形
0.1 0.90 0.98
0.5 0.50 0.50
0.9 0.10 0.02

前期余弦形保留更大的步长,延后局部精细搜索;末期变化平缓,便于以小步长稳定细搜。与按个体适应度调步长不同,这里调的是随迭代推进的下降曲线;具体效果仍需按函数维度、预算和参数验证。参见[[步长策略须区分阶段与个体]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《智能算法导论》第 8 章《基于细菌觅食算法的聚类问题:改进趋化操作》(源文件:_epub-src/EPUB/xhtml/chapter8_0007.xhtml) - 结论依据:原文把高维函数上线性步长早期降得过小与搜索早熟相连,提出以 0~π 区间的余弦函数控制非线性下降;本节未给实验条件,故不把效果写成普遍保证。对比表中的归一化余弦形式与数值为依据原文“0~π 余弦控制”补充的教学演算,非书中公式或数据。 - 原始内容:在优化高维函数时,在算法初期,由于线性趋化步长就已降到了一个相对较小的值,使得局部搜索算法很快陷入早熟。