知识卡片
GPU软件接口从寄存器到批命令到状态模型的演进
CPU 与 GPU 之间的编程接口经历了三个阶段,每一次演进都是为了解决上一代方案在”多任务共享一个 GPU”场景下暴露出的新问题。最早期是直接通过设备寄存器读写通信(先是 I/O 端口,后来是映射到 物理内存的 MMIO)——这种方式对传递少量控制信号还行,但频繁访问速度慢,而且如果每个程序都 直接把自己的命令写给寄存器,会互相干扰、影响其他正在使用 GPU 的程序。于是出现了批命令缓冲区: 每个程序先把自己需要执行的一整批命令攒在一个缓冲区里,攒够了再一次性提交给 GPU 的命令流处理器, 减少了频繁访问寄存器的开销,也让多个用户可以轮流提交而不互相踩踏。但批命令方式还留下一个问题: 如果一个任务还没执行完,就有更高优先级的任务需要插队,或者当前任务卡住了需要切换到别的任务, 该怎么保存现场?这时候如果每次切换都要重新配置全部参数和寄存器,会非常浪费时间。状态模型给出 了答案:定义一套软硬件都认可的数据结构(状态基地址指向的结构体),任务挂起时把整个执行状态 打包存进这个结构体,需要恢复时只需要把这个结构体的地址告诉 GPU,GPU 自己去加载状态——这正是 支持”抢先式调度”(一个任务能被中途打断、之后又能精确恢复)的基础。三个阶段合起来看,驱动演进 的主线始终是同一个问题:怎样才能让一块物理 GPU 更好地被多个任务共享、快速切换,而不是”怎样让 单个程序跑得更快”。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《软件调试(第2版)卷1:硬件基础》第8章《GPU基础》8.3.1/8.3.2/8.3.3节(源文件:_epub-src/OEBPS/text00018.html)
- 结论依据:原文依次说明设备寄存器方式"不适合传递大量信息。因为频繁访问不仅速度慢,而且会影响GPU的其他用户",批命令缓冲区"解决了成批提交的问题,可以让GPU的多个用户轮番提交自己的命令,但是还有一个问题没有解决……如何支持抢先式调度",状态模型"当需要执行某个任务时,只要把这个状态的地址告诉GPU,GPU就会从这个地址加载状态。当GPU需要挂起这个任务时,GPU可以把这个任务的状态保存到它的状态结构体中",并总结"变革的主要目的是更好地支持多任务,并且可以快速提交和切换任务",因此可以推出本卡片的结论。
- 原始内容:通过设备寄存器不适合传递大量信息……解决这个问题的方法是批命令缓冲区……但是还有一个问题没有解决。那就是……如何支持抢先式调度……状态模型是解决上述问题的较好方案……变革的主要目的是更好地支持多任务,并且可以快速提交和切换任务。