知识卡片
学习一致性中的经验与真实风险
经验风险能否代表真实风险,需要一个判定标准,这就是学习一致性。设 Q(x,α) 是使经验风险最小的函数,若它给出的函数序列能让经验风险和真实(期望)风险依概率收敛到同一个下确界,就称 ERM 原则对该函数集是一致的。关键定理把这个问题进一步转化:它不再用经验风险值去逼近真实风险值——那样很困难——而是要求经验风险最小化函数一致收敛于真实风险最小化函数,用 sup(上确界)刻画函数集里最坏的情形。这样,经验与真实风险之间就架起了一座桥梁,一致性问题变成了一个关于一致收敛的可度量问题。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第8章 万能分类器——支持向量机 · 查看原书依据
关键定理把学习一致性的问题转化为一个收敛问题。它没有用经验风险去逼近真实(期望)风险(前文讲过,这么做很困难),而是通过经验风险最小化函数来逼近真实(期望)风险最小化函数。这就是关键定理的绝妙之处。
参考来源
- 位置:《机器学习算法原理与编程实践》第8章 万能分类器——支持向量机(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00028.html)
- 结论依据:原文给出学习一致性的收敛定义与关键定理,明确定理把一致性转化为经验风险最小化函数一致收敛于真实风险最小化函数。
- 原始内容:关键定理把学习一致性的问题转化为一个收敛问题。它没有用经验风险去逼近真实(期望)风险(前文讲过,这么做很困难),而是通过经验风险最小化函数来逼近真实(期望)风险最小化函数。这就是关键定理的绝妙之处。