知识卡片
稳定内核驱动与可变翻译分层
首代TPU软件栈示例把内存管理和中断等放入较轻内核驱动,把API翻译、数据布局与执行控制放用户态。这样把经常演进的适配逻辑与较稳定的底层职责分开,仍需共同满足设备协议;不说明任意用户态更新都无需检查驱动兼容。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
- · 异构加速
原书出处 · 1 处
- 异构加速 · 查看原书依据
用户空间驱动程序则经常更改,它设置并控制TPU执行,并且将数据重新格式化为TPU顺序,把API调用翻译成TPU指令,将指令转换为应用程序二进制文件。大多数模型可以完整地在TPU运行,从而最大化地优化TPU计算时间与输入和输出时间的比率。 CPU、GPU和TPU的Roofline组合图如图7
参考来源
- 位置:《软硬件融合 (黄朝波 著)》第7章《异构加速》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter014.xhtml)
- 结论依据:该项对“首代TPU软件栈示例把内存管理和中断等放入较轻内核驱动,把API翻译、数据布局与执行控制放用户态”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。
- 原始内容:用户空间驱动程序则经常更改,它设置并控制TPU执行,并且将数据重新格式化为TPU顺序,把API调用翻译成TPU指令,将指令转换为应用程序二进制文件。大多数模型可以完整地在TPU运行,从而最大化地优化TPU计算时间与输入和输出时间的比率。 CPU、GPU和TPU的Roofline组合图如图7