知识卡片
CUDA任务包含数据往返
主机准备数据、设备并行计算、结果返回后继续处理,是本章CUDA例子的基本分工。启动计算之外还存在主机与设备内存之间的数据传送,不能把设备内核执行时间当作整个任务时间。GPU工作期间CPU可能做其他工作,但具体重叠和同步依赖运行时安排;下图只说明书中的逻辑阶段与数据方向,不冒充精确API调用链。
结构图:
sequenceDiagram
participant C as CPU及主机内存
participant G as GPU及设备内存
C->>G: 复制待处理数据到设备内存
C->>G: 配置并启动计算内核
G->>G: 并行处理设备内存中的数据
Note over C: 可等待或在条件允许时处理其他工作
G-->>C: 完成后把结果复制回主机内存
C->>C: 继续后续任务
原例只有主机与设备两个主要参与者,主链和数据往返均已保留,不为达到默认节点数添加虚构组件。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
- · 软硬件融合综述
原书出处 · 1 处
- 软硬件融合综述 · 查看原书依据
CPU视角的CUDA处理流程如下。 ·CPU顺序执行任务,结束后把数据保存在CPU的内存中。 ·将待处理的数据从CPU内存复制到GPU内存(图2.6中的①处理)。 ·CPU指示GPU工作,配置并启动CUDA内核(图2.6中的②处理)。 ·多个CUDA内核并行执行,处理准备好的数据(图2.6
参考来源
- 位置:《软硬件融合 (黄朝波 著)》第2章《软硬件融合综述》(来源项目book-sources;源文件:extracted/软硬件融合 (黄朝波 著)/_epub-src/OEBPS/Text/chapter009.xhtml)
- 结论依据:该项对“主机准备数据、设备并行计算、结果返回后继续处理,是本章CUDA例子的基本分工”给出定义、对比、案例或条件;保留论证范围,不将启发式当无条件定律。
- 原始内容:CPU视角的CUDA处理流程如下。 ·CPU顺序执行任务,结束后把数据保存在CPU的内存中。 ·将待处理的数据从CPU内存复制到GPU内存(图2.6中的①处理)。 ·CPU指示GPU工作,配置并启动CUDA内核(图2.6中的②处理)。 ·多个CUDA内核并行执行,处理准备好的数据(图2.6