知识卡片

普通读书笔记卡 · 2334.h

矩阵指令封装较粗计算任务

理解等级:中级

首代TPU示例指令区分主机读写、取权重、矩阵/卷积和激活。一次指令表达较大计算以减少控制流开销,指令执行可跨多个周期;大指令复杂度不等于零访存、无需调度或所有算子均适合。具体指令名与周期仅属于书中所述实现。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 异构加速 · 查看原书依据

      TPU大约有十二个指令,主要的五个指令如下。 ·Read_Host_Memory:将数据从CPU内存读取到统一缓冲区(UB)中。 ·Read_Weights:将权重从权重存储器读取到权重FIFO中,作为矩阵乘法单元的输入。 ·MatrixMultiply/Convolve:让矩阵乘法单元执

    参考来源

    - 位置:《软硬件融合 (黄朝波 著)》第7章《异构加速》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter014.xhtml) - 结论依据:该项对“首代TPU示例指令区分主机读写、取权重、矩阵/卷积和激活”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。 - 原始内容:TPU大约有十二个指令,主要的五个指令如下。 ·Read_Host_Memory:将数据从CPU内存读取到统一缓冲区(UB)中。 ·Read_Weights:将权重从权重存储器读取到权重FIFO中,作为矩阵乘法单元的输入。 ·MatrixMultiply/Convolve:让矩阵乘法单元执