知识卡片
凸函数在均值处不高于均值函数值
对凸函数,先平均若干输入点再求函数值,不高于先求各点函数值再平均。梯度下降返回的是迭代点均值,因此可以用各轮函数值的平均数控制最终输出。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第33章 机器学习算法 · 查看原书依据
, x(T–1) ∈ ℝn, we have ▪ The left-hand side of inequality (33.19) is the value of f at the vector x-avg that GRADIENT-DESCENT returns. We now proceed to analyze GRADIENT-DESCENT. It might not return the exact global minimizer x*. We use an error bound ϵ, and we want to choose T so that f(x-avg) – f(x*)
参考来源
- 位置:《算法导论(第4版)》第33章《机器学习算法》(OEBPS/chapter033.xhtml,文本字符[50000,55000))。
- 结论依据:原文第33.3节梯度下降、凸性、误差界或约束投影;相关公式图已核对。
- 原始内容:The second property, which Exercise 33.3-2 asks you to prove, is a repeated application of the definition of convexity in inequality (33.18). Lemma 33.7 For any convex function f : ℝ n → ℝ , for any integer T ≥ 1, and for all x (0) , …, x ( T –1) ∈ ℝ n , we have ▪ The left-hand side of inequality (33.19) is the value of f at the vector x-avg that G RADIENT -D ESCENT returns. We now proceed to analyze G RADIENT -D ESCENT . It might not return the exact global minimizer x *. We use an error bound ϵ , and we want to choose T so that f ( x-avg ) – f ( x *)