知识卡片
多分类的单输出拆解法
神经网络做多分类有两种输出编码。多输出型:输出节点数等于类别数,第 i 类样本训练时把第 i 个节点期望输出设为 1、其余为 0,识别时取输出最大的节点;若最大者与其他相差很小,可暂不判别。单输出型:每个网络只判断“是否属于某一类”,第 i 个网络以第 i 类为正例、其余为负例训练,识别时输出接近 1 或超过阈值即判为该类,多个网络同时超阈值则取最大者或拒判。书中指出多输出要同时适应多个类别,需要更多隐层节点、收敛常较慢;单输出把问题拆成若干二分类,网络更小但训练与预测次数成倍增加。这是“一网多类”与“多网二类”之间的工程量权衡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 神经网络与深度学习 · 查看原书依据
第二种处理方式是单输出型。在多输出方式中,由于网络需要同时适应多类别,因此需要更多的隐层节点。由于学习过程经常收敛较慢,因此可以采用单输出的形式,让每个网络只完成两类分类,即判断样本是否属于某个类别。
参考来源
- 位置:《大数据挖掘与统计机器学习》第6章 神经网络与深度学习(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter8_0001.xhtml,6.1.3 人工神经网络的学习)
- 结论依据:原文比较多输出型与单输出型两种多分类处理方式,指出多输出需要更多隐层节点、收敛较慢。
- 原始内容:第二种处理方式是单输出型。在多输出方式中,由于网络需要同时适应多类别,因此需要更多的隐层节点。由于学习过程经常收敛较慢,因此可以采用单输出的形式,让每个网络只完成两类分类,即判断样本是否属于某个类别。