← 返回刚才阅读的位置

知识卡片

结构图卡 · 9600 · 生成模型:DeepSeek-V4.1-Flash

加速器三阶段演进

理解等级:中级

深度学习模型原本跑在 CPU 或 GPU 上,功耗与面积都撑不住终端:AlphaGo 的分布式版本要近 2000 块 CPU 加近 300 块 GPU,小模型也要几十块 GPU。专用处理器因此分三步走。计算优化只把乘累加算子做快,用数字、模拟、数模混合电路或 FPGA 实现,早期工作零散,未成气候。计算与存储同时优化发现参数搬运才是瓶颈,转而设计分布式、近片上的存储与高吞吐数据交换。理论与硬件协同则先在算法层压缩网络,再按压缩后的规模定硬件。三步的分界不是工艺节点,而是瓶颈被认定在哪里:先是算力,再是访存带宽,最后是模型本身的冗余。这也解释了为什么第三阶段必须算法与硬件一起设计。

结构图:

flowchart LR
  A["算力不足"] --> B["计算优化"]
  B --> C["访存成为瓶颈"]
  C --> D["计算与存储协同"]
  D --> E["模型存在冗余"]
  E --> F["算法与硬件协同设计"]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《基于类脑计算的目标检测与跟踪技术》第8章 类脑计算平台及其目标检测与跟踪应用(源文件:extracted/基于类脑计算的目标检测与跟踪技术/_epub-src/OPS/txt008.html) - 结论依据:深度学习模型原本跑在 CPU 或 GPU 上,功耗与面积都撑不住终端:AlphaGo 的分布式版本要近 2000 块 CPU 加近 300 块 GPU,小模型也要几十块 GPU。 - 原始内容:前两个阶段主要是针对预先训练好的神经网络模型进行硬件架构优化设计,第三个阶段的研究重点集中于如何压缩和简化网络模型,并辅助进行专用硬件的设计。