知识卡片
L1目标不能直接套光滑梯度
LR的负对数似然可加λ‖W‖₁限制参数,但L1在权重为0处不可微。原文后续光滑梯度、牛顿和L-BFGS的说明不能原封不动覆盖整个L1目标;应采用适配不可微正则项的方法,如OWL-QN。此卡限定优化前提,通用正则化作用沿用前章卡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 机器学习:分布式算法 · 查看原书依据
其中,(Xj ,yj )为M 个训练数据中的第j 个训练实例,分为正样本和负样本,通过对公式3取负log,并为避免过拟合加入L 1 正则化项,则求解特征权重问题转换为如下公式求最小值:
参考来源
- 位置:《大数据日知录:架构与算法》第16章《机器学习:分布式算法》,原文段落14,OEBPS/text00021.html。
- 结论依据:原书给出的机制、公式或算法与其适用范围;实验百分比和2014年系统状态不当作当前普遍保证。原文过度概括据第一手资料限定:[原始资料](https://www.microsoft.com/en-us/research/publication/scalable-training-of-l1-regularized-log-linear-models/)。
- 原始内容:其中,(Xj ,yj )为M 个训练数据中的第j 个训练实例,分为正样本和负样本,通过对公式3取负log,并为避免过拟合加入L 1 正则化项,则求解特征权重问题转换为如下公式求最小值: