知识卡片

普通读书笔记卡 · 3711.a

凸函数在均值处不高于均值函数值

理解等级:中级

对凸函数,先平均若干输入点再求函数值,不高于先求各点函数值再平均。梯度下降返回的是迭代点均值,因此可以用各轮函数值的平均数控制最终输出。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第33章 机器学习算法 · 查看原书依据

      , x(T–1) ∈ ℝn, we have ▪ The left-hand side of inequality (33.19) is the value of f at the vector x-avg that GRADIENT-DESCENT returns. We now proceed to analyze GRADIENT-DESCENT. It might not return the exact global minimizer x*. We use an error bound ϵ, and we want to choose T so that f(x-avg) – f(x*)

    参考来源

    - 位置:《算法导论(第4版)》第33章《机器学习算法》(OEBPS/chapter033.xhtml,文本字符[50000,55000))。 - 结论依据:原文第33.3节梯度下降、凸性、误差界或约束投影;相关公式图已核对。 - 原始内容:The second property, which Exercise 33.3-2 asks you to prove, is a repeated application of the definition of convexity in inequality (33.18). Lemma 33.7 For any convex function f : ℝ n → ℝ , for any integer T ≥ 1, and for all x (0) , …, x ( T –1) ∈ ℝ n , we have ▪ The left-hand side of inequality (33.19) is the value of f at the vector x-avg that G RADIENT -D ESCENT returns. We now proceed to analyze G RADIENT -D ESCENT . It might not return the exact global minimizer x *. We use an error bound ϵ , and we want to choose T so that f ( x-avg ) – f ( x *)