知识卡片
计算与带宽共同约束性能
Roofline横轴是运算强度即单位数据传输对应的操作数,纵轴表示可达操作率;带宽形成斜线,峰值计算形成平顶。低强度工作可能受内存约束,高强度才可能接近计算上限。图中CPU/GPU/TPU点是历史设备与模型比较,不能跨精度直接将峰值或性能功耗比当任务速度倍率。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
- · 异构加速
原书出处 · 1 处
- 异构加速 · 查看原书依据
峰值计算速率就是Roofline的平坦部分,内存带宽是每秒字节数,因此变成了Roofline的倾斜部分。从图7.28中我们可以看到,所有TPU均位于CPU和GPU的Roofline之上。从Roofline的平坦部分可以看出,TPU的处理速度比GPU和CPU要快15~30倍。 图7.28 C
参考来源
- 位置:《软硬件融合 (黄朝波 著)》第7章《异构加速》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter014.xhtml)
- 结论依据:该项对“Roofline横轴是运算强度即单位数据传输对应的操作数,纵轴表示可达操作率;带宽形成斜线,峰值计算形成平顶”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。
- 原始内容:峰值计算速率就是Roofline的平坦部分,内存带宽是每秒字节数,因此变成了Roofline的倾斜部分。从图7.28中我们可以看到,所有TPU均位于CPU和GPU的Roofline之上。从Roofline的平坦部分可以看出,TPU的处理速度比GPU和CPU要快15~30倍。 图7.28 C