知识卡片
卷积网络的神经科学基础
卷积网络是生物学启发人工智能最成功的案例,其关键设计原则来自神经科学。Hubel 与 Wiesel 在猫视觉皮层的实验发现,早期神经元只对精确定向条纹等特定光模式强烈响应。在简化的 V1(初级视觉皮层)视图里,卷积层对应三个性质:二维空间映射对应用二维映射定义特征;简单细胞在小感受野内做图像的线性函数,对应检测器单元;复杂细胞对特征位置微移不变,启发了池化单元。更深处选择性与不变性交替,最终产生对特定概念、对多种变换不变的“祖母细胞”,内侧颞叶的“Halle Berry 神经元”即其例。反向相关表明多数 V1 细胞权重可由 Gabor 函数描述,大量统计学习算法在自然图像上都会学到类 Gabor 的边缘检测器。也要看到差异:人眼靠中央凹与扫视、并有自上而下反馈,而卷积网络多为纯前馈、全分辨率输入,且神经科学几乎没告诉我们如何训练网络。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第9章 卷积网络
原书出处 · 1 处
- 第9章 卷积网络 · 查看原书依据
卷积网络也许是生物学启发人工智能的最为成功的案例。虽然卷积网络也经过许多其他领域的指导,但是神经网络的一些关键设计原则来自神经科学。
参考来源
- 位置:《深度学习》第9章 卷积网络(源文件:extracted/深度学习/_epub-src/text/part0004.html)
- 结论依据:原文系统描述 V1 的三类性质、祖母细胞、Gabor 函数与反向相关,并列出卷积网络与人脑的诸多差异及反向传播的“生物不可信”。
- 原始内容:卷积网络也许是生物学启发人工智能的最为成功的案例。虽然卷积网络也经过许多其他领域的指导,但是神经网络的一些关键设计原则来自神经科学。