知识卡片
判别正则迁移到输出层
全连接网络最后一层使用 Softmax 时,输出层可以像多元逻辑回归一样为不同类别提供打分。把类别间的判别正则迁移到神经网络,书中比较了无正则、L2 和 L2 加极大不相关项,并用相同实验条件观察识别率。网络测试结果依赖所选结构和数据。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 极大不相关多元逻辑回归 8.3.3 极大不相关神经网络算法实验 · 查看原书依据
L2-DNN表示添加了l2正则项的神经网络,MU-DNN表示在L2-DNN之上继续添加了极大不相关正则项的神经网络。
参考来源
- 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第8章《极大不相关多元逻辑回归》8.3.3 极大不相关神经网络算法实验(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter8.xhtml)
- 结论依据:8.3.3 极大不相关神经网络算法实验中的定义、更新式或实验叙述提供本卡依据。全连接网络最后一层使用 Softmax 时,输出层可以像多元逻辑回归一样为不同类别提供打分。
- 原始内容:L2-DNN表示添加了l2正则项的神经网络,MU-DNN表示在L2-DNN之上继续添加了极大不相关正则项的神经网络。