知识卡片

普通读书笔记卡 · 9932 · 生成模型:GPT-6

凸变换抬高平均值

理解等级:中级

对凸函数,先对随机量取均值再代入函数,结果不大于先算函数值再平均。例:随机值等可能取 −1 与 1,平方均值为零,而平方的均值为一。把函数换成凹的对数,方向反过来;先检验曲率和期望是否有限。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第12章 计算学习理论 · 查看原书依据

      此式可以做很直观的理解. 比如在二维空间,凸函数可以想象成开口向上的抛物线. 假设抛物线上有两个点,那么表示两个点的均值的纵坐标,而表示的是两个点纵坐标的均值.因为两个点的均值落在抛物线的凹处,所以均值的纵坐标会小一些.

    参考来源

    - 位置:《机器学习公式详解》第12章 计算学习理论(book-source:`extracted/机器学习公式详解/_epub-src/text/part0018_split_000.html`,式(12.4)) - 结论依据:式(12.4)用凸函数的弦说明期望与函数交换时的不等式方向。 - 原始内容:此式可以做很直观的理解. 比如在二维空间,凸函数可以想象成开口向上的抛物线. 假设抛物线上有两个点,那么表示两个点的均值的纵坐标,而表示的是两个点纵坐标的均值.因为两个点的均值落在抛物线的凹处,所以均值的纵坐标会小一些.