知识卡片
全连接层映射到FCore
类脑芯片的每个功能核(FCore)只有 256 个神经元、每神经元 256 个连接,而网络建模时通常按全局规模设计,所以上片前必须拆分。以 1024×1024 全连接层为例:输出神经元彼此独立,先按输出拆成 4 个 1024×256 子网,输入用复制扇出分发给四份;每个子网再按输入拆,4 个 FCore 各算 256×256 的部分和,另 4 个 FCore 做第二级求和,最后扇出 256 个输出。整个层耗 (4+4)×4 = 32 个 FCore。规则可概括为:输出超 256 就拆输出并复制输入,输入超 256 就拆输入并做两级求和,扇入扇出都必须压在 256 以内。
结构图:
flowchart TD
A["1024×1024全连接层"] --> B["按输出拆成4个子网"]
B --> C["输入复制扇出4份"]
C --> D["4个FCore算部分和"]
D --> E["4个FCore二级求和"]
E --> F["共32个FCore"]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第8章 类脑计算平台及其目标检测与跟踪应用 · 查看原书依据
最终,完成1024×1024的全连接层一共消耗(4+4)×4=32个FCore(未考虑扇出拓展的复制FCore)。
参考来源
- 位置:《基于类脑计算的目标检测与跟踪技术》第8章 类脑计算平台及其目标检测与跟踪应用(源文件:extracted/基于类脑计算的目标检测与跟踪技术/_epub-src/OPS/txt008.html)
- 结论依据:类脑芯片的每个功能核(FCore)只有 256 个神经元、每神经元 256 个连接,而网络建模时通常按全局规模设计,所以上片前必须拆分。
- 原始内容:最终,完成1024×1024的全连接层一共消耗(4+4)×4=32个FCore(未考虑扇出拓展的复制FCore)。