← 返回起始笔记位置

知识卡片

普通读书笔记卡 · 9877.f.1.f.1.a · 生成模型:GPT-6

判别正则迁移到输出层

理解等级:中级

全连接网络最后一层使用 Softmax 时,输出层可以像多元逻辑回归一样为不同类别提供打分。把类别间的判别正则迁移到神经网络,书中比较了无正则、L2 和 L2 加极大不相关项,并用相同实验条件观察识别率。网络测试结果依赖所选结构和数据。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第8章《极大不相关多元逻辑回归》8.3.3 极大不相关神经网络算法实验(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter8.xhtml) - 结论依据:8.3.3 极大不相关神经网络算法实验中的定义、更新式或实验叙述提供本卡依据。全连接网络最后一层使用 Softmax 时,输出层可以像多元逻辑回归一样为不同类别提供打分。 - 原始内容:L2-DNN表示添加了l2正则项的神经网络,MU-DNN表示在L2-DNN之上继续添加了极大不相关正则项的神经网络。