知识卡片
弱学习增强为强学习
这一结论回答了“集成是否可行”的根本问题。瓦兰特把二分类中仅略高于50%正确率的算法定义为弱学习算法,把准确率高且能在多项式时间内完成的定义为强学习算法,并提出弱能否被提升为强的疑问。1989年夏皮尔给出肯定答案:任一弱学习算法都能通过逐步加强,被提升为可达到任意正确率的强学习算法,且该加强过程可用多项式级算法实现——这就是Boosting的原型。意义在于:不必费力构造一个强学习器,只要找到一个比瞎猜稍好的弱算法,就可能靠集成把它“抬”成强学习器。边界是理论保证依赖弱学习器满足一定条件(正确率稳定高于50%)且需足够的迭代与样本。启发是:当直接攻克难题成本高时,可以把大问题拆成多个“略有用”的小判断,再通过制度化汇总把它们放大成可靠结论。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 要想模型效果好,集成算法少不了 9.1.2 人多一定力量大吗 · 查看原书依据
他主张的观点是:任一弱学习算法都可以通过加强提升而成为一个能达到任意正确率的强学习算法,并通过构造一种多项式级的算法来实现这一加强过程,这就是最初的Boosting算法的原型。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第9章《要想模型效果好,集成算法少不了》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00014.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文“任一弱学习算法都可以通过加强提升而成为一个能达到任意正确率的强学习算法……这就是最初的Boosting算法的原型”直接确立弱可升强的结论,为整个Boosting家族提供了理论基石。
- 原始内容:他主张的观点是:任一弱学习算法都可以通过加强提升而成为一个能达到任意正确率的强学习算法,并通过构造一种多项式级的算法来实现这一加强过程,这就是最初的Boosting算法的原型。