知识卡片

普通读书笔记卡 · 2334.i

计算与带宽共同约束性能

理解等级:中级

Roofline横轴是运算强度即单位数据传输对应的操作数,纵轴表示可达操作率;带宽形成斜线,峰值计算形成平顶。低强度工作可能受内存约束,高强度才可能接近计算上限。图中CPU/GPU/TPU点是历史设备与模型比较,不能跨精度直接将峰值或性能功耗比当任务速度倍率。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 异构加速 · 查看原书依据

      峰值计算速率就是Roofline的平坦部分,内存带宽是每秒字节数,因此变成了Roofline的倾斜部分。从图7.28中我们可以看到,所有TPU均位于CPU和GPU的Roofline之上。从Roofline的平坦部分可以看出,TPU的处理速度比GPU和CPU要快15~30倍。 图7.28 C

    参考来源

    - 位置:《软硬件融合 (黄朝波 著)》第7章《异构加速》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter014.xhtml) - 结论依据:该项对“Roofline横轴是运算强度即单位数据传输对应的操作数,纵轴表示可达操作率;带宽形成斜线,峰值计算形成平顶”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。 - 原始内容:峰值计算速率就是Roofline的平坦部分,内存带宽是每秒字节数,因此变成了Roofline的倾斜部分。从图7.28中我们可以看到,所有TPU均位于CPU和GPU的Roofline之上。从Roofline的平坦部分可以看出,TPU的处理速度比GPU和CPU要快15~30倍。 图7.28 C