知识卡片

普通读书笔记卡 · 1781.e.1

L1目标不能直接套光滑梯度

理解等级:高级

LR的负对数似然可加λ‖W‖₁限制参数,但L1在权重为0处不可微。原文后续光滑梯度、牛顿和L-BFGS的说明不能原封不动覆盖整个L1目标;应采用适配不可微正则项的方法,如OWL-QN。此卡限定优化前提,通用正则化作用沿用前章卡。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 机器学习:分布式算法 · 查看原书依据

      其中,(Xj ,yj )为M 个训练数据中的第j 个训练实例,分为正样本和负样本,通过对公式3取负log,并为避免过拟合加入L 1 正则化项,则求解特征权重问题转换为如下公式求最小值:

    参考来源

    - 位置:《大数据日知录:架构与算法》第16章《机器学习:分布式算法》,原文段落14,OEBPS/text00021.html。 - 结论依据:原书给出的机制、公式或算法与其适用范围;实验百分比和2014年系统状态不当作当前普遍保证。原文过度概括据第一手资料限定:[原始资料](https://www.microsoft.com/en-us/research/publication/scalable-training-of-l1-regularized-log-linear-models/)。 - 原始内容:其中,(Xj ,yj )为M 个训练数据中的第j 个训练实例,分为正样本和负样本,通过对公式3取负log,并为避免过拟合加入L 1 正则化项,则求解特征权重问题转换为如下公式求最小值: