知识卡片
BP网络的黑盒与成本
BP神经网络有两个主要缺点。其一是黑盒性:隐藏层结构复杂,无法解释为何产生某个输出,比如把鼠标误识别成键盘却说不出原因;不同于贝叶斯或决策树,它解释性弱,而券商预测股票、银行核定贷款额度都需要可解释的结论支撑决策。其二是项目成本高:一方面需要数千甚至数百万标记样本,人工提取特征难度极大,特征精度过高会把戴帽与否的照片当成两人,过低会把双胞胎当成一人;另一方面计算耗时,隐藏层越多越容易出现精度不再提升的现象。边界是这些缺点可在具体场景中权衡。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 模拟人类思考过程:神经网络 7.3.2 巧用BP算法解决计算问题 · 查看原书依据
BP神经网络最为人广知的缺点就是黑盒子性质。由于隐藏层复杂的神经元网络,我们不知道网络是如何运行的,以及为什么会产生这样的输出。
参考来源
- 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第7章《模拟人类思考过程:神经网络》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00012.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292)
- 结论依据:原文以鼠标误识别为键盘为例说明黑盒性,并分析标记样本与算力的双重成本,支撑了BP网络可解释性差、落地成本高的结论。
- 原始内容:BP神经网络最为人广知的缺点就是黑盒子性质。由于隐藏层复杂的神经元网络,我们不知道网络是如何运行的,以及为什么会产生这样的输出。