知识卡片

普通读书笔记卡 · 2334.c.1.l

稳定内核驱动与可变翻译分层

理解等级:中级

首代TPU软件栈示例把内存管理和中断等放入较轻内核驱动,把API翻译、数据布局与执行控制放用户态。这样把经常演进的适配逻辑与较稳定的底层职责分开,仍需共同满足设备协议;不说明任意用户态更新都无需检查驱动兼容。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 异构加速 · 查看原书依据

      用户空间驱动程序则经常更改,它设置并控制TPU执行,并且将数据重新格式化为TPU顺序,把API调用翻译成TPU指令,将指令转换为应用程序二进制文件。大多数模型可以完整地在TPU运行,从而最大化地优化TPU计算时间与输入和输出时间的比率。 CPU、GPU和TPU的Roofline组合图如图7

    参考来源

    - 位置:《软硬件融合 (黄朝波 著)》第7章《异构加速》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter014.xhtml) - 结论依据:该项对“首代TPU软件栈示例把内存管理和中断等放入较轻内核驱动,把API翻译、数据布局与执行控制放用户态”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。 - 原始内容:用户空间驱动程序则经常更改,它设置并控制TPU执行,并且将数据重新格式化为TPU顺序,把API调用翻译成TPU指令,将指令转换为应用程序二进制文件。大多数模型可以完整地在TPU运行,从而最大化地优化TPU计算时间与输入和输出时间的比率。 CPU、GPU和TPU的Roofline组合图如图7