此笔记位置已失效,请从目录继续阅读。
全书导读
《软硬件融合》研究的对象是云计算基础设施中的工作负载:用户业务持续变化,计算、存储和网络规模扩大,而通用CPU还要承担设备模拟、数据搬运、虚拟化与管理等后台任务。书中的“融合”是先从整个系统明确服务职责、数据路径和约束,再把工作分配给主机软件、嵌入式软件、可重配置逻辑或专用电路,不是把所有软件都搬进芯片。
理解本书需要抓住三件事。第一是工作本身是否适合加速:有多少计算可并行,是否反复使用同类算法,实际收益会不会被数据搬运抵消。第二是如何交接:驱动与设备通过寄存器、共享描述符、队列和总线交换工作,通知、数据和完成各有含义。第三是如何保留变化能力:软件维护规则、硬件执行查表和流水,配合标准接口及功能分域,在效率与迭代之间取舍。
本书为2021年出版,具体产品、协议版本、实验和未来预测都放回当时语境。本文保留实际展开的机制,并在相关章节明确原文中的已知简化或错误;外部核验只用于注明范围的纠正,不把历史产品数字更新成未经核验的现行能力。先读引言与第1—2章理解问题,再读第3—4章的基础与交接,第5—7章的算法、虚拟化和异构机制,最后用第8—9章回到整套系统。
全书主线
全书论述先从规模效应进入架构。单机看似很小的失败概率、CPU开销或每次交接,在大量设备和事务中可能成为系统成本;但期望不是确定事件,局部数字也不能替代完整路径分析。第1章据此把云资源、隔离、接口和后台工作放在一起,第2章说明不同器件和并行方式提供哪些实现选择。
第3章建立共同语言:CPU执行指令,内存需要地址转换与缓存,I/O搬运与通知各负其责,网络和虚拟化把资源组织成新的访问视图。第4章再落实到接口。无论Virtio、RDMA还是NVMe,都需要让两端对工作、数据位置、结果和资源归还有共同理解;队列缓冲速差却不扩大无限容量,硬件一致性减轻某些维护却不消除全部同步。
在这些条件上,第5章把热点算法做成流水或并行引擎,并把更完整职责迁到另一系统;第6章把虚拟化拆成解析、映射和重组,让软件计算复杂规则,硬件查表处理常见事务,缓存机制处理规则规模和未命中压力。第7章将用户计算扩展到CPU、GPU、FPGA和领域架构,平台工具与数据交互决定硬件能力能否被实际使用。
第8章把机制组合为业务与管理分离、加速服务、冷热存储和网络反馈等方案。第9章收束到系统边界、共享堆栈、稳定与变化部分的分域,以及需求方和硬件方合作。最终设计问题是“在给定业务与约束下,哪一项职责放在哪里、通过什么契约协作”,不能用固定的软硬件性能等级或一种芯片名代替。
内容简介
内容简介说明全书服务于软硬件工程师的互相理解:软件的灵活性与硬件的执行效率需要在系统中共同安排。九章依次覆盖云服务、基本概念、体系结构、接口、算法与任务卸载、虚拟化、异构加速、系统案例及集成方法。本项用于限定读者和范围,不把书名中的创新或前沿宣传当成技术效果证据。
推荐序1
推荐序1把计算设备多样化、数据增长和异构计算联系起来:更多硬件选择提供了优化机会,也增加架构和软件优化的复杂度。它对2025年设备数量、工艺路线与未来十年的判断都是2020年末的展望,不作为当前统计或已兑现事实。这里保留的是需要同时考虑设备能力、数据流和系统优化的阅读背景;不据预测数字另造结论卡。
推荐序2
推荐序2认为,系统复杂后,软件/硬件二分不足以组织设计,需要在两侧继续分层,再明确层间接口。标准接口的价值是让不同实现可以协作,并允许某一层替换时减少对其他层的影响。RISC-V在序中作为指令集接口的例子出现,说明的是互操作方向;不能由一套指令集标准直接推出所有系统服务一致或整个系统不再需要虚拟化。
标准接口支持分层替换进一步解释该问题。
原书依据 · 1 处
前言
前言把问题定位到云基础设施:通用CPU不能无条件承担持续增长的业务和后台工作,单个领域加速器也未必能覆盖多个并存、持续变化的需求。CPU是通用处理器;ASIC是专用集成电路,FPGA提供可重配置逻辑,DSA则强调围绕特定应用领域设计架构。具体器件是否可编程、可以修改什么,应看其实现和接口,不能只凭这些标签决定。软件迭代、芯片设计量产和部署使用周期不同,因此需要从系统层安排多种加速器与软件的协作。章节导读和致谢不另起技术卡,前言中的快慢与通用专用问题并入引言相关卡。
读者校正:前言把“单位面积功耗会增加”归于登纳德缩放定律,这混淆了理想缩放与缩放失效。Hennessy与Patterson的2019年原始论文明确说明:经典缩放假设晶体管密度增加时单管功耗下降,单位面积功耗近似恒定;这一收益后来不能持续,需要更高效的架构。访问日期2026-10-26,实际读范围为印刷页53相关段落,没有读完整篇论文。原始论文的高校镜像,取材与hash见本批97-external-dennard.json。
引言
引言先用个体与系统、内涵与外延说明观察尺度:单台设备的功能与约束要放回集群的故障、网络和管理条件中判断。以N台设备、每台每日故障概率p为例,N×p表示每日故障次数的期望,不是每天必然发生的固定次数。随后讨论简单接口与复杂实现:分层和组件划分可以隐藏细节,但仍需决定职责和交互,不能把接口简单程度与系统总复杂度看成必然反比例。开放与封闭的产业例子同样是对不同价值获取位置的比较,不是市场份额或利润的单因果解释。快慢则必须拆开:运行速度、研发周期和需求迭代速度不是同一指标。
通用与专用是平台选择手段,需要在负载、研发投入、性能、能耗和未来变化之间权衡。集中与分布又有多个层次:云服务对用户可以集中提供,内部处理却可以分散到靠近数据的位置;近数据处理的价值来自减少搬运或主机瓶颈,不由数据总量自动推出。规模有助于摊薄定制成本,但不意味着小系统只能通用、大系统必须专用。最后,软件定义硬件要与硬件自身的时序、接口和成本条件结合;融合是重新安排边界与协作,让稳定部分高效运行、变化部分仍能调整,而不是取消所有约束。
个体与系统的涌现进一步解释该问题。
规模决定外延约束进一步解释该问题。
分层封装应对简单与复杂进一步解释该问题。
开放与封闭的产业博弈进一步解释该问题。
软件快迭代硬件慢进一步解释该问题。
通用与专用是手段进一步解释该问题。
转向以数据为核心进一步解释该问题。
量变触发架构质变进一步解释该问题。
软件定义硬件的局限进一步解释该问题。
云计算底层软硬件
云计算按服务交付IT能力,IaaS、PaaS、SaaS分别把基础资源、运行平台和应用交给用户,因而需要明确控制权与管理责任。按需供给减轻购置和底层维护工作,但不会自动取消应用容量、成本和恢复规划。计算实例又通过CPU、内存、存储和网络组合适应不同工作负载;本章以成书时的EC2规格举例,理解资源组合比记住某代型号上限更有价值。随后把计算生命周期与持久数据分开:网络块卷和特定时点快照有不同用途,使用存储仍需定义保存及删除策略。
存储部分继续按访问特点区分块、对象和归档服务。频繁更新、并发读取和长期少取回数据,分别强调不同接口、性能与成本,归档取回时间也不能忽略。型号、默认卷类型、容量和小时数是历史产品描述。网络则分成物理承载、租户虚拟网络和应用流量分配:先能连接,再定义谁与谁可以通信,最后决定请求送往哪个服务目标;三类机制不能互相代替。VPC并不意味着永不跨域,跨域访问需要另外明确路径和安全规则。
规模扩大使密度、能耗、管理和失败处理都成为系统设计问题。书中IDC的2024/2025数据预测、服务器估算与网络增长比例只保留为有年代的背景。多租户在不同层共享资源,必须把逻辑隔离和个性化策略落到实际资源;图1.5列出从无共享到共享不同层次的模型,说明共享位置不同,职责与隔离问题也不同。网络请求大量扇出时,必须等待的慢依赖会影响整体响应,所以平均带宽不能代表用户延迟。安全又贯穿迁移、复用、备份、接口和管理:资源位置改变要同步策略,回收资源也不等于旧数据已不可恢复。
丰富的云服务需要特定负载优化,同时又希望维持用户已熟悉的接口。兼容性和加速并非自动成立:接口可以屏蔽设备差异,实际数据路径仍有处理和调度成本。业务异构加速主要服务用户任务,后台任务卸载主要移走基础设施工作,两者的控制、数据及管理边界不同。释放CPU只是潜在收益,还要看利用需求、硬件投入和其他瓶颈;原书转引OVS测试不能写成本轮实测或当前性能承诺。可加速比例、数据搬运和协作成本约束整体收益,这一概念在第7章再展开,不另造相同结论卡。
接口弹性需要同时定义类型、数量和性能,硬件内部又需要把队列与独立处理状态对应起来,才能支持多租户个性化。进一步把业务与管理放到不同硬件环境,可以改变资源竞争和管理故障边界,但必须重新安排接口与恢复责任。硬件功能扩展则把稳定逻辑与变化逻辑分开;80/20、两年与半年均是原书示例,不是通用比例或工期。成熟功能可以逐步固化,前提是层间数据及配置接口清楚。最后,高可用结合验证、独立资源、故障检测、恢复和在线修正,而非仅凭“定制”二字保证稳定。
读者校正:同一AWS区域不等于同一个数据中心。AWS官方资料把区域定义为地理范围,区域内有多个可用区,可用区又可含一个或多个数据中心。因此不能由“同区域访问”直接推出同机房或延迟可忽略。AWS区域与可用区,2026-10-26实际读取定义部分。
读者校正:本章将VT-d称作CPU与内存虚拟化支持,术语有误。Intel把VT-x用于处理器虚拟化,EPT列为二级地址转换机制,VT-d扩展I/O设备虚拟化;这也不构成零性能损耗证明。Intel技术定义的虚拟化段落、SLAT/EPT说明的Resolution段落,访问日期2026-10-26。
异构加速与任务卸载进一步解释该问题。
后台卸载的营收逻辑进一步解释该问题。
按稳定程度划分硬件进一步解释该问题。
硬件迭代中的固化过程进一步解释该问题。
标准接口与直通矛盾进一步解释该问题。
定制硬件缩小验证范围进一步解释该问题。
云服务层次改变管理边界进一步解释该问题。
块存储寿命应与实例区分进一步解释该问题。
存储温度取决访问与恢复需求进一步解释该问题。
承载隔离与分流网络分工进一步解释该问题。
多租户需要细粒度隔离进一步解释该问题。
请求扇出放大尾部延迟进一步解释该问题。
迁移资源必须同步安全策略进一步解释该问题。
资源复用须防止数据残留进一步解释该问题。
接口弹性要定义类型数量与性能进一步解释该问题。
队列虚拟化需要独立处理状态进一步解释该问题。
业务与管理物理分离进一步解释该问题。
硬件扩展需要标准数据接口进一步解释该问题。
硬件高可用需要检测与冗余进一步解释该问题。
原书依据 · 19 处
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
- 云计算底层软硬件 · 查看原书依据
软硬件融合综述
本章先区分物理器件与运行于其中的程序,再指出设备内部也可以有固件,主机又有驱动与控制软件。因此外部看来是“硬件”的设备,内部仍可包含软件层。FPGA强调逻辑可重配置,ASIC在器件角度强调固定电路,SoC强调系统功能集成;这些分类轴不同,不能把ASIC一概等同单一软件功能,也不能把FPGA拥有硬核说成其他器件不可能具备。随后用DES与SHA-256历史例子说明专用实现可能减少通用指令处理,但接口粒度、吞吐和单项延迟必须分别理解。表中吞吐/频率并不能单独证明单块数据的一周期端到端时延,数字也不作为当前器件性能排名。
性能比较可以拆开观察处理粒度、时钟频率和并行组织。关键路径是寄存器之间耗时最长的组合逻辑路径;分段可能提高时钟频率,但额外阶段和寄存器也有成本。流水线、多发射、多线程、多核、多芯片、总线及集群是在不同层次增加重叠或资源,不能用统一的线程数量或跨平台IPC直接换算应用吞吐。原书的CPU到ASIC谱系是定性说明,不是所有ISA的复杂度或所有负载的性能全序;文中也举了CPU的AVX、NEON扩展,因此不能再把并行扩展说成GPU专属。
平台选择取决于任务可并行程度、变化速度、规模与投入,不是必须逐级升级的路线。协作可以发生在SoC内部、主板上的多个芯片之间或网络连接的节点之间;互连位置影响数据移动。双CPU八GPU例子把CPU间互连、PCIe交换和GPU间NVLink同时呈现,说明数据路径需要结合拓扑理解。CUDA例子又把主机准备、输入拷贝、设备计算、结果返回和主机后续处理连成一项任务,不能只测内核时间。平行协作与分层调用是职责关系;软件和设备各自工作之外,还要约定缓冲区、通知和完成条件,才知道何时可复用内存。本章“其他平台通常不图灵完备”不作为协作必要性的证明,管理接口和任务分工才是这里实际讨论的依据。
软硬件融合在此被组织成分层模型:基础处理、数据接口、虚拟化、系统功能及应用之间有明确职责。虚拟化可以位于系统层的不同位置,因此不同部分可以整体卸载、保留软件或由双方协作。原图的硬件旁路把加速结果直接送往下一系统层,针对的是经应用反复搬运的开销,不是允许跳过任意语义或隔离。稳定功能具备收益条件时可以逐步下沉,变化部分保留可修改性;这是一种演进方向,不是全部复杂系统必须使用相同分层或全部工作必然硬件化。最后,接口、算法/任务、虚拟化、业务异构四类技术共同构成后续章节的问题地图,它们分别聚焦交互、处理、映射与可用平台。
指令复杂度与灵活性进一步解释该问题。
处理器性能三维度进一步解释该问题。
FPGA以频率换灵活进一步解释该问题。
加速模块也有管理接口进一步解释该问题。
系统功能逐步下沉进一步解释该问题。
器件可编程与系统集成分轴进一步解释该问题。
固件与驱动分居设备两侧进一步解释该问题。
一次命令不等于一周期延迟进一步解释该问题。
关键路径限制时钟频率进一步解释该问题。
并行机制作用在不同层次进一步解释该问题。
平台选择依赖负载与变化进一步解释该问题。
多平台协作跨越不同互连进一步解释该问题。
双CPU八GPU的互连路径进一步解释该问题。
CUDA任务包含数据往返进一步解释该问题。
交互约定决定缓冲复用时机进一步解释该问题。
平行协作不同于分层调用进一步解释该问题。
虚拟化位置改变系统层分工进一步解释该问题。
硬件旁路可减少软件搬运进一步解释该问题。
四类融合技术分工不同进一步解释该问题。
原书依据 · 19 处
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
- 软硬件融合综述 · 查看原书依据
计算机体系结构基础
处理器向程序提供ISA接口,微架构再把接口实现为具体流水线、执行单元和存储访问。RISC与CISC不是绝对性能等级;本章的历史芯片比较只能说明特定设计取舍。五级流水线把取指、译码、执行、访存和写回重叠起来,有利于吞吐,却不等于每条指令从开始到结束只耗一个周期。更深流水也会放大依赖停顿和预测失败等代价。RISC-V的模块化使实现可以选择扩展,软件仍须与目标能力匹配,不能把成书时指令数和普及预测当现行保证。地址产生后还需经映射到实际对象,一个地址空间不只是RAM,也可覆盖设备寄存器;字节地址宽度、物理实现与操作系统可管理容量要区分。
进程看到的是虚拟地址,MMU依据页表映射及权限连接到实际物理位置,TLB缓存近期转换以减少查表工作。设备DMA也能主动访问内存,因此需要另外考虑设备侧映射与隔离,不能把CPU的访问权限自动套给设备。I/O的通知与搬运是两条线:轮询或中断用于发现工作,CPU或DMA决定谁移动数据;现代队列轮询不等于早期CPU逐项搬运。共享队列缓冲有限速差,不能保证双方永远不阻塞。处理器与内存位置又形成NUMA差异:非均匀访问不是“没有缓存一致性”,环、网格或交叉开关也不会自动消除距离与竞争,线程和数据放置仍影响结果。
存储分层利用时间与空间局部性,让小而快的层有机会承接更多访问,再由更大层保存其他内容。这是工作负载和成本的取舍,不是容量与速度严格反比。原文把缓存延迟顺序写反,同章表3.3却列出典型寄存器200ps、缓存更长、内存更长的顺序;Flash/Disk行的延迟与对应频率又存在量纲不一致,本轮不采用其具体数值,也不猜测替作者改表。设备扇区、文件系统块和内存页用于不同层次,不能把它们的大小或分配规则混成一个概念。逻辑卷进一步在块设备上建立PV、VG和LV的管理抽象,便于调整上层布局,但实际在线操作仍有具体实现条件。
GFS按组件失败常态、大文件和追加为主等假设设计。客户端先向主节点取得元数据,再直接与Chunk服务器交换数据;较大Chunk减少元数据与定位开销,但64MB是历史设计值,缓存位置也不是永久有效。热温冷存储同样按访问要求与成本组织,原书80/15/5等比例是转引统计,不能由远程块或大数据分析这些名称推定所有数据必热。网络部分先分开两种关系:同层实体按协议对话,相邻层通过接口提供服务;真实数据还要沿层次和物理介质移动。TCP与UDP的服务语义不同,不能把所有传输协议都写成可靠字节流。Spine/Leaf改变交换机连接方式,为多路径和扩展提供结构,容量仍受真实链路与负载限制。
VLAN用逻辑广播域隔离交换流量,实际域间访问仍需路由及安全策略;12位字段并不等于4096个可用租户网络。VXLAN把内层帧封装到UDP/IP等外层结构,经VTEP在逻辑网络与底层网络之间转换,扩展部署边界和标识范围。外层地址与端口用于底层转发和路径分担,内层地址及VNI服务叠加网络,二者不能混淆。封装不消除物理带宽、路径及配置限制,VTEP也不必每主机固定一个;不要把VLAN直接等同STP或把LACP称为三层协议。SDN随后把控制决策与逐包处理分开,以统一视图组织策略;逻辑集中不等于单台物理控制器,也不保证视图永远实时一致。
流表接口让控制策略改变转发行为。原书以OpenFlow说明匹配与动作,但“唯一SDN标准”不作为定义。OVS又把管理配置、用户态交换逻辑和数据路径分开:OVSDB提供配置,ovs-vswitchd实现交换处理,原书图示的内核datapath执行包处理;它们不是一个装下所有实时流表的数据库,实际也可能有用户态数据路径。P4再把可编程性推进到包解析与匹配—动作结构,编译器把程序映射到目标设备,因此目标无关不等于不受目标能力限制。虚拟化也应按所保留接口分类:硬件、操作系统、库或语言运行时各有边界,不应把这些概念视为同一个完整运行环境。
虚拟机把运行环境封装成可管理实例,多个实例仍共享底层资源,不能把逻辑隔离写成绝无竞争。软件解释、翻译缓存、客体协作和硬件辅助是不同机制,可以组合使用;本章给出的固定开销百分比未注明统一负载与实现,不作为通用性能结论。VT-x根/非根模式与Ring权限是两套维度,客体系统可以在非根模式Ring0运行。VM-Exit把需要管理层处理的事件带出客体,再经VM-Entry继续执行;状态与控制结构支持这种切换,不表示每条指令都退出。内存再引入GVA、GPA、HPA三类地址,即客体程序虚拟地址、客体物理视图和宿主实际物理地址;影子页表与EPT分别以软件合成和硬件两阶段映射组织转换。
影子页表需要维护合成映射与同步,但有效映射下的普通访问不必每次陷出;EPT也不承诺转换成本为零。I/O虚拟化还涉及寄存器访问、通知、DMA及设备模拟,访问形式变成MMIO不自动表示无需管理层处理。Virtio通过共享描述和状态交流缓冲,分离式队列的Available由驱动写、Used由设备写;依据规范核验基本归属,不凭原图含混箭头反推实现。设备直通再需要区分CPU与DMA地址转换,SR-IOV以PF管理、VF分配传输功能,但不消除物理资源共享。容器共享宿主内核,虚拟机拥有客体系统,故隔离与兼容边界不同。编排则按期望状态与资源请求安排实例,原书bin packing误译应理解为装箱调度,不能据自修复、回退或密钥功能推导绝对可用与安全。
读者核验:UDP语义按RFC 768引言区分;VLAN可用数量、VTEP部署位置按RFC 7348第1—4节校正;OVS组件职责对照官方概述的组件列表;小文件数据可内联等反例见Linux ext4 Inline Data开头两段。访问日期均为2026-10-26,未对本机网络、文件系统或产品性能执行测试。分离队列写者归属按OASIS Virtio 1.22.7.6及2.7.8核验,未把1.2新增能力套入旧书。
局部性支持存储分层进一步解释该问题。
GFS大Chunk三收益进一步解释该问题。
虚拟化机制可以组合进一步解释该问题。
P4的突破是协议无关进一步解释该问题。
ISA约定软件可见机器接口进一步解释该问题。
ISA类别不等于性能等级进一步解释该问题。
流水线以重叠换取吞吐进一步解释该问题。
指令集扩展需软硬件匹配进一步解释该问题。
地址空间也可映射设备寄存器进一步解释该问题。
地址映射与缓存转换分工进一步解释该问题。
设备DMA也需地址权限约束进一步解释该问题。
I/O通知不同于数据搬运进一步解释该问题。
DMA卸载不免除管理责任进一步解释该问题。
共享队列只能缓冲有限速差进一步解释该问题。
NUMA使访存成本依赖位置进一步解释该问题。
互连拓扑权衡线路与路径进一步解释该问题。
扇区块与页属于不同层次进一步解释该问题。
逻辑卷以池化隔离物理布局进一步解释该问题。
GFS分开元数据与数据路径进一步解释该问题。
文件系统参数依赖工作负载进一步解释该问题。
协议连对等层接口连邻层进一步解释该问题。
传输层不都提供可靠字节流进一步解释该问题。
叶脊网络以多路径扩展互连进一步解释该问题。
VLAN隔离广播域进一步解释该问题。
VXLAN封装跨越二层边界进一步解释该问题。
隧道外层字段服务底层转发进一步解释该问题。
SDN按全局视图组织控制进一步解释该问题。
流表把控制策略落到转发面进一步解释该问题。
OVS配置与数据路径分工进一步解释该问题。
目标无关不等于目标无限进一步解释该问题。
虚拟化可在不同抽象层实现进一步解释该问题。
虚拟机封装不消除资源竞争进一步解释该问题。
解释执行不同于二进制翻译进一步解释该问题。
类虚拟化让客体参与协作进一步解释该问题。
根模式与特权环是两套维度进一步解释该问题。
影子页表与EPT分工不同进一步解释该问题。
I/O虚拟化有多种交互成本进一步解释该问题。
共享队列交换缓冲描述进一步解释该问题。
CPU与设备使用不同地址转换进一步解释该问题。
PF与VF分开管理与传输进一步解释该问题。
容器与虚拟机共享边界不同进一步解释该问题。
编排以期望状态组织运行进一步解释该问题。
原书依据 · 42 处
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
- 计算机体系结构基础 · 查看原书依据
软硬件接口
软硬件接口把CPU上的驱动、内存中的描述符及数据缓冲、设备侧DMA/接口逻辑和承载总线连接起来。原书从轮询、中断、DMA、共享队列、用户态PMD讲到多队列,解释如何减少同步等待并提高并行度;这些机制能组合使用,通知方式与搬运方式不是同一维度。生产者消费者模型要求满时不再加入、空时不再取走。先检查条件再裸sleep会存在丢失唤醒窗口,原书计数信号量示例用空槽/现有项许可保存资源状态;示例仅说明单生产者单消费者,不构成任意多线程并发队列实现。分布式消息队列也借助中介缓冲解耦,但持久化、重试与业务完成仍须分别处理。
以NIC发送为例,驱动准备描述符和数据块,设备读取描述符并搬运载荷,完成后驱动回收缓冲;队列中元数据与数据块不能混同。DPDK的用户态轮询数据路径减少特定负载的切换、复制和通知成本,同时消耗CPU并保留必要控制管理。固定核、NUMA内存位置、大页、对齐、无锁及DDIO分别解决不同成本,不是通用性能配方。SPDK把相似思路应用于高速存储,介质变快后软件栈开销更容易显现。互连部分随后从功能模块间通信入手,区分AXI4内存映射、AXI4-Lite控制寄存器与AXI4-Stream数据流。
AXI4分离读地址、读数据、写地址、写数据和写响应通道,配合突发和未完成事务提供并发,仍须遵守顺序及依赖约束。CPU脏缓存与非一致性DMA访问可看见不同数据,软件缓存维护或硬件一致性路径分别承担相应责任;缓存一致性不等于全部程序同步。ACE支持完全一致性参与者,ACE-Lite面向I/O一致性。NoC则把事务分组经接口、路由和链路传送,允许协议与拓扑分离;CHI的RN发起、HN协调、SN响应说明节点职责,不应把NoC当作单一协议或保证永不拥塞。PCIe接着提供CPU到端点、端点到内存及端点间P2P等访问路径,实际平台支持仍需匹配。
PCIe配置空间负责身份和能力发现,BAR配置设备寄存器/内存的地址映射,两者不能混同。SR-IOV用PF承担完整配置,VF向客体呈现较轻功能,减少数据路径中转但仍共享物理资源;IOMMU的DMA映射不同于CPU侧客体地址映射。CCIX把一致性扩展到异构芯片,请求代理、Home代理、Slave代理及错误代理分别承担访问、地址范围一致性、内存响应和错误处理。共享地址与硬件一致性可减少显式DMA搬运,却不消除软件管理、同步、错误处理和物理通信。
原书早期CXL模型在共同链路上区分io、cache和mem三种职责,按协议组合形成类型1、2、3设备;设备访问主机内存与主机访问设备内存是两个方向。类型2的偏向模型改变一致性协调路径,主机中心的非对称分工用于减轻异构设备复杂度,不能推导设备没有协议逻辑。本章有关CXL直连与PCIe5.0的描述属于当时版本,不外推为现行全部标准。总线还应同时按拓扑、事务和尺度比较。Virtio随后把承载总线、通用交互和设备语义分层,其初始化先协商功能,确认FEATURES_OK,再配置队列并置DRIVER_OK;功能交集不是任意新旧实现必然兼容。
Virtio的Split与Packed以不同方式组织共享描述符和可用/已用状态,Packed改善元数据局部性的价值依赖实现和负载。驱动发布缓冲后Kick设备,设备处理并更新状态,驱动在通知或轮询中回收;批量和通知抑制可减少开销,但重新使能后要检查是否有剩余工作,避免休眠窗口漏处理。该机制不保证所有负载延迟不变。Virtio用通用层复用网络、块等设备设计,RDMA则是包括接口、内存与传输网络的完整数据路径。RoCEv2在以太网/IP/UDP上承载RDMA传输层,不能把UDP的语义当作整个RDMA服务的语义。
RDMA通过本地工作队列提交请求,并从完成队列获得结果;WQE是本地请求表示,不应理解为直接复制进对端工作队列。Send/Recv需要配合收发缓冲,Read/Write依赖预先提供的远端地址、键和访问许可。远端逐次CPU参与减少不等于零控制工作,成功提交也不等于传输或业务完成。NVMe针对高速非易失存储,将管理/I-O、提交/完成分为相应队列,利用多队列减少共享争用。主机写提交项和SQ尾门铃,控制器执行并写完成,主机处理后更新CQ头门铃;中断可合并,协议上限也不等于实际设备能力。
NVMe命令把操作、命令ID、命名空间和数据描述分开,完成项关联身份与状态。Phase Tag帮助识别新完成项,不能代替CQ头门铃回收;SQHD报告提交项已取走,不证明全部命令已完成。PRP按页组织数据指针,SGL按带长度和类型的区域描述组织;描述符资源收益依数据布局,不能统一说SGL必更快,原书关于PRP列表只一页也不采纳为普遍上限。NVMe over Fabrics复用存储命令与多队列思想,更换网络传输映射;书中性能目标不是部署保证。最后接口分层、共享、标准化、可配置性回到云计算需求:匹配协议只是迁移前提之一,加速场景也应尽量减少跨芯片往返。
读者核验:依据rdma-core ibv_post_send手册DESCRIPTION/NOTES及ibv_poll_cq手册区分提交、完成与缓冲生命周期;依据NVM Express 1.4c4.1及7.2节核对Phase Tag、SQHD与CQ头门铃的职责。仅核对这些基本语义,不声称通读全部规范或完成硬件测试。原文PCIe5网络带宽400GB/s及NVMe端到端10ms等数值语境不一致,不采纳或猜改具体数值;外部访问日期2026-10-26。
Packed队列合并设计进一步解释该问题。
东西向流量与RDMA进一步解释该问题。
交互频度定接口进一步解释该问题。
CXL非对称设计进一步解释该问题。
接口由驱动队列与总线协作进一步解释该问题。
通知方式与搬运方式分轴进一步解释该问题。
有界缓冲要求空满约束进一步解释该问题。
检查后休眠会丢失唤醒进一步解释该问题。
计数信号量保留资源许可进一步解释该问题。
消息队列解耦不免除可靠性进一步解释该问题。
发送队列区分描述符和载荷进一步解释该问题。
用户态轮询交换CPU与延迟进一步解释该问题。
处理器亲和需兼顾内存位置进一步解释该问题。
存储介质变快会暴露软件成本进一步解释该问题。
AXI分离读写地址和数据进一步解释该问题。
寄存器访问与流传输有别进一步解释该问题。
DMA可能看不到CPU脏缓存进一步解释该问题。
一致性接口参与程度不同进一步解释该问题。
NoC把事务组织为片上分组进一步解释该问题。
CHI区分请求一致性与响应进一步解释该问题。
PCIe事务有三类访问路径进一步解释该问题。
配置空间和BAR映射分工进一步解释该问题。
SR-IOV共享仍需资源隔离进一步解释该问题。
一致性互连减少显式搬运进一步解释该问题。
CCIX代理按地址协调一致性进一步解释该问题。
CXL三种协议服务不同访问进一步解释该问题。
CXL设备类型由协议组合区分进一步解释该问题。
主机和设备偏向改变访问路径进一步解释该问题。
互连比较需同时看拓扑与事务进一步解释该问题。
Virtio初始化是协商状态机进一步解释该问题。
通知抑制后必须重新检查进一步解释该问题。
通用设备接口可与承载分层进一步解释该问题。
RDMA跨越接口和网络协议栈进一步解释该问题。
RDMA工作请求不同于完成进一步解释该问题。
单边访问依赖预先授权内存进一步解释该问题。
NVMe多队列减少共享争用进一步解释该问题。
NVMe提交完成各有生产者进一步解释该问题。
完成相位标记不代替头门铃进一步解释该问题。
存储命令身份与数据位置分离进一步解释该问题。
PRP与SGL分组数据不同进一步解释该问题。
远程存储复用命令更换传输进一步解释该问题。
虚拟化接口兼容需多层匹配进一步解释该问题。
原书依据 · 42 处
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
- 软硬件接口 · 查看原书依据
算法加速和任务卸载
本章把第4章接口落到加速任务。算法加速将热点放入专用模块,任务卸载迁移较完整职责,异构计算提供面向一类负载的可编程平台;三者可组合,不是强制升级路线。CSR负责配置、启动与状态,数据面处理载荷,DMA搬运、算法计算和以太网I/O可分别分工又可嵌套。运行加速器需初始化、备数据、启动、搬运、执行和回收;有无内置DMA改变交接路径,不消灭软件责任。本章卸载限定板级系统间迁移,既可能用专用电路,也可能只是转到嵌入式CPU,因而释放主机资源与加快任务本身不是同一件事。加密部分随后说明不同原语的计算特点,不能把所有公钥算法都视为加密或把签名称为私钥加密。
对称密码、公钥用途与摘要/消息认证须按目标分开。AES案例通过复用轮逻辑节约面积,或展开多轮并流水以提高吞吐;每周期接收一组并不代表单组一周期完成,多引擎复制还受供数和模式依赖限制。RSA核心是重复模乘,Montgomery方法改变运算组织后再设计硬件;历史密钥长度和实现频率不作为现行安全建议。SHA256例说明反馈与流水重叠,输入带宽、摘要输出和消息依赖不能混淆。压缩利用冗余,无损和有损由可恢复要求区分;Xpress在哈希更新、匹配、选择和打包间分流水,扩大窗口与复制引擎对压缩比、吞吐和面积影响不同。
WebP将部分重建和失真计算交给硬件,剩余软件与搬运仍限制整体收益;原书70%比例仅在代表原总时间、忽略新增开销时对应理想上界约3.33。H.265案例通过简化估计、模式预选和大小块不同重构路径适配硬件,权衡质量和吞吐。数据冗余以k数据块加m编码块说明空间收益,恢复能力需编码与有效块条件,不推定与三副本可靠性相同,也不据容错余量推迟修复。MSR加速把DDR存储与处理分开,重叠读取、计算和写回以隐藏部分等待。HARE则用软件编译规则、硬件固定流水匹配,性能比较限于具体规则集和实现,不能宣称所有软件正则都慢或所有规则数均不影响硬件。
流水线、引擎并行、输入输出供数和资源优化共同影响加速,不把宏指令理解为任意算法单周期延迟。任务卸载在保持服务调用职责的同时,必须补齐软到硬、硬到硬及硬到软的接口与HAL。QAT IPsec案例把加解密等重计算与其他软件处理分开,较小包可用CPU指令,较大包再走板卡,显示交互粒度的重要性。ASAP2把规则控制与快路径分开,不意味着任意包均无CPU参与。SNAP通过标准NVMe呈现隐藏远端位置,直接硬件路径和经嵌入式软件路径分别取舍效率与灵活性,网络失效和板卡资源仍在。虚拟化设备硬件化进一步承接客体接口契约,不能仅以标准驱动证明迁移可行。
设备直通后,状态迁移与目标兼容成为挑战;vDPA保留软件控制、加速数据路径,原书以回退软件后端说明一种迁移思路,实际仍须相应设备与状态支持。虚拟化管理迁到嵌入式CPU可减轻主机与分离管理执行环境,但主机仍需调度和资源分配,隔离也不等于所有错误绝无影响。总结部分先把热点特征、规模、通用平台能力和交互成本一起评估,再区分数据面部分卸载、数据面全卸载及控制面也迁移。框架需分别约定控制、任务内部软硬件、主机任务和其他硬件接口,以复用交互而保留具体算法差异。
读者核验:NIST FIPS186-5开头说明与术语区分私钥签名/公钥验证;FIPS198-1摘要说明HMAC为结合共享秘密的消息认证机制。访问2026-10-26,仅核对基本定义,不声称通读、完成密码实现或安全评估。原书非对称加密“一定更安全”、DES/MD5等历史提名及2048位“当前足够”的结论不作现行安全建议。转引论文实验均未在本轮复现,性能数字只作该历史案例。
加速卸载异构三层进一步解释该问题。
QAT只挑高价值环节卸载进一步解释该问题。
vDPA保留控制面退路进一步解释该问题。
通用平台挤压加速器进一步解释该问题。
控制面与数据面职责不同进一步解释该问题。
搬运计算与外部通信可分工进一步解释该问题。
加速器运行需要完整数据交接进一步解释该问题。
任务卸载可只是迁移软件进一步解释该问题。
密码原语须按安全目标区分进一步解释该问题。
AES轮展开用面积换吞吐进一步解释该问题。
多引擎吞吐受共享输入约束进一步解释该问题。
模幂加速应针对重复模乘进一步解释该问题。
哈希吞吐需明确输入与依赖进一步解释该问题。
压缩选择取决于可丢信息进一步解释该问题。
压缩并行窗口有三方权衡进一步解释该问题。
加速覆盖率限制整体收益进一步解释该问题。
硬件友好算法可改变计算路径进一步解释该问题。
纠删码节省空间但依赖模型进一步解释该问题。
纠删加速也受内存带宽限制进一步解释该问题。
正则加速依赖编译器配合进一步解释该问题。
正则流水把规则配置与数据分开进一步解释该问题。
卸载保持服务接口再重排位置进一步解释该问题。
卸载边界应看数据粒度进一步解释该问题。
交换卸载分离慢路径和快路径进一步解释该问题。
标准存储接口可以隐藏位置进一步解释该问题。
板卡软件路径换取存储灵活性进一步解释该问题。
接口硬件化仍要承接客体契约进一步解释该问题。
管理卸载缩小主机常驻职责进一步解释该问题。
候选热点要看规律和迁移成本进一步解释该问题。
完整卸载是管理归属变化进一步解释该问题。
卸载框架分开四类接口进一步解释该问题。
原书依据 · 31 处
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
- 算法加速和任务卸载 · 查看原书依据
虚拟化硬件加速
第6章将抽象、资源切分与虚拟化映射组合为作者的理解模型。模块以接口隐藏实现,HAL在可支持范围内统一硬件访问;vCPU分时和地址空间切分是不同形式的资源视图,虚拟容量不能脱离物理约束。数学式FA与反函数只作示意,多对一映射一般需要身份和状态才能返回,不能无条件假定可逆。虚拟化层位于调用者与资源之间,通过接口处理请求。网络与存储I/O增大可能提高映射CPU负担,但负担取决于事务成本,不严格只随带宽线性增长。
本章比较CPU指令驱动、网络数据驱动和阶段式GPU数据流:阶段间可经队列交接,各阶段内部仍可执行程序。这里的GPU内核不等于每个物理ALU都是独立取指CPU。函数映射直接计算位置,键值映射分开软件算关系与硬件查表,选择需兼顾规则、表量和更新频率。页表/TLB说明多级查询与缓存,四级及五次访存只是简化未命中示例。FTL把逻辑地址转换为闪存位置,页级灵活性与块级表规模形成权衡,书中混合映射用页日志吸收更新后合并到数据块,不代表全部SSD同一种实现。
数据库、文件系统与FTL可重复进行映射和回收,开放通道SSD让主机接管部分管理以协调全路径,但开放也转移了管理责任。资源切片过细会放大表与查询成本,多级组织与结果缓存是折中。CPU主动填充缓存和软件更新网络映射表承担不同职责;快路径命中时直接处理,未命中交较复杂的慢路径,硬件、内核、用户态可以组成多级。慢路径避免大量数据堵塞有限缓冲,主动填充或取消整包慢路径须有相应状态容量,不能简单判定越后设计越好。通用模型据此形成输入、解析、查表、结果处理、重封装与输出,软件维护规则。
虚拟网络不仅需要配置,也需持续按包处理,VXLAN例用虚拟网络标识和内层目标查询外层位置。固定协议ASIC改变功能困难,可编程PISA则开放解析、匹配动作和逆解析,P4程序仍需适配目标资源。RMT用包头向量、键选择与动作单元组织每阶段;解析器按状态识别包头并提取字段。FPGA的SDNet把规范编译为RTL/镜像,重构具体流水不同于仅更新已有表项。包、元组、访问与自定义端口分别携带不同交互,解析、编辑、查找、元组和用户引擎按职责组合,不能把可编程误写成无限能力。
FlexFlow案例说明共享查找资源、按流配置查表序列、可编程解析与编辑可改善协议适配和固定分配浪费;书中的无限表量、传统流水全串行等表述不作普遍结论,收益依具体资源及争用。部分可编程是领域效率与变化需求的折中,不凭协议数量推导线性性能提升。存储部分转到Ceph:RADOS对象集群承接不同上层接口,RGW提供对象访问、RBD提供块、CephFS提供文件,MDS负责CephFS元数据。池内对象先到PG,再按集群映射和CRUSH到OSD,PG的间接层帮助动态放置;对象到PG也受池和PG配置影响,不是永远静态。
Ceph正常三副本路径由主OSD协调副本写与反馈,本章三级映射是作者解释视角,不是脱离具体状态的完整一致性协议。映射切片可以是大区域,而一次事务只访问其中若干块;区域基址转换后保留偏移,分布式场景再加服务器和卷定位,下层所谓PBA可能仍是FTL输入LBA。存储流水把命令查表、地址和格式变换与载荷处理分开,二者需控制关联,复杂映射策略可由软件生成表。定长命令缺映射时挂起,其他工作可继续,但仍需有限状态及顺序/错误管理;片内表、内存表和软件动态生成构成逐层填充,而非彻底不再需要软件。
本地盘与远程存储按短路径性能、容量解绑、网络流量、冗余和运维需求取舍,不依据位置标签判定可靠性。原书本地卸载将虚拟块设备映射到盘组,并提出结合开放通道集中FTL职责、再提供远程访问的方案;SSD整盘失效风险及迁移所需一致性机制并未因此消失。总结将可配置阶段、映射表和缓存组合为线内数据处理平台,在元数据与载荷分路时仍保留事务关联。分布式内存和GPU资源池进一步说明路径性能的重要性,资源汇聚不自动获得单机等效延迟,硬件加速也不必单向卸载,可合并重复层并把部分管理上载。
读者核验:Ceph官方客户端架构的对象/块/文件分工及动态集群管理的PG计算输入用于澄清两点:POSIX文件接口属于CephFS;对象到PG也依赖池及PG参数。访问2026-10-26,页面自标development,仅核对基础分工与输入,不作为稳定发行版功能清单,未运行集群。
抽象与资源映射模型进一步解释该问题。
函数映射与键值映射进一步解释该问题。
多层映射催生OCSSD进一步解释该问题。
包处理反向演进进一步解释该问题。
抽象屏蔽与使用无关的细节进一步解释该问题。
时间和空间切分形成资源视图进一步解释该问题。
接口映射需要保存足够上下文进一步解释该问题。
I/O加速需求取决于事务成本进一步解释该问题。
指令驱动与数据驱动入口不同进一步解释该问题。
分阶段数据流可嵌套局部执行进一步解释该问题。
多级映射交换表量与查询次数进一步解释该问题。
页表遍历成本不能当每次必付进一步解释该问题。
FTL映射粒度影响搬移与表量进一步解释该问题。
主动填充与软件更新分工不同进一步解释该问题。
快慢路径避免每次都跑复杂策略进一步解释该问题。
未命中设计需核算暂存能力进一步解释该问题。
映射流水分离规则生成与执行进一步解释该问题。
虚拟网络规则需参与持续转发进一步解释该问题。
PISA在领域流水内开放编程进一步解释该问题。
RMT把匹配字段与动作配置化进一步解释该问题。
FPGA重构不同于表项更新进一步解释该问题。
数据包与元数据可分端口传递进一步解释该问题。
解析编辑查找引擎各守职责进一步解释该问题。
共享查找资源减少固定分配浪费进一步解释该问题。
可编程解析支撑隧道与遥测进一步解释该问题。
Ceph以对象底座提供不同接口进一步解释该问题。
PG间接层缓解对象与节点耦合进一步解释该问题。
副本写入由主节点协调进一步解释该问题。
映射切片不等于事务读写大小进一步解释该问题。
地址转换保持块内偏移进一步解释该问题。
存储命令映射与载荷处理分路进一步解释该问题。
命令挂起可减小未命中缓冲进一步解释该问题。
多级存储表将缺项逐层补齐进一步解释该问题。
本地远程存储需按用途取舍进一步解释该问题。
本地卸载可接管一组盘的映射进一步解释该问题。
线内加速应保留事务关联进一步解释该问题。
分布式资源池仍受路径成本约束进一步解释该问题。
原书依据 · 37 处
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
- 虚拟化硬件加速 · 查看原书依据
异构加速
异构加速需识别任务中可并行和适合不同资源的部分,再协调CPU、GPU、FPGA等执行与数据路径,不是设备越多越快。天河与TensorFlow是书中的平台实例,峰值与历史名次不直接证明具体应用加速,优先权叙述也未外推。可加速时间占比、设备实际加速和H2D/D2H等交互共同约束整体收益;批量、减少往返、重叠主机工作可降低部分等待。易用性则要求统一资源抽象、编译工具、运行时、库和数据管理,而不只是提供一块更快的卡。
GPU与CUDA结合硬件并行和软件模型。书中TU102的GPC/TPC/SM及核心数仅是特定架构,线程、块、网格为逻辑层次,不是每线程固定绑一个CUDA核;同块在SM内执行,SM可调度多个块。私有、块共享、全局及常量/纹理内存各有范围和访问特点,local不保证在寄存器中。主机传输、内核与结果使用需满足依赖,但可在支持条件下重叠。NVLink收益依两端与拓扑,原书混用的带宽单位不作当前规格,GPU间互连也不让任意CPU自动得到同样一致性路径。
CUDA统一地址空间、映射主机内存和统一内存是不同概念:地址视图不等于物理数据位置,映射访问仍跨互连,管理内存则可由运行时迁移。自动管理不取消结果使用前同步或并发访问正确性责任,功能也依系统支持。OpenCL把异构设备抽象为平台、执行与编程、内存等模型,主机通过上下文和设备命令队列组织工作。NDRange、工作组与工作项用索引分配数据,统一API不保证所有设备能力和性能一致,设备端入队也须相应版本支持。
OpenCL的local属于工作组共享,与CUDA local的线程私有命名不同;global、constant与private也应按模型理解而非固定某款GPU容量。简单应用完整经过设备查询、资源创建、数据准备、编译提取内核、入队执行、输出和释放,不能以入队代表完成。FPGA平台以Shell复用板级接口、DMA和管理,动态区域承载用户核;XRT在库和内核驱动间分担通信、调度和部署,英特尔加速栈/OPAE也用抽象降低适配成本,均为原书历史工具语境,不保证任意镜像通用。DSA再把已知领域需求用于运算与存储设计。
DSA利用领域数据局部性、运算结构和并行性重新分配资源,不是宣布CPU不再改进;登纳德缩放理想含义仍是功率密度近恒定,不能与前言误述混同。五原则包括减少搬运、更多计算及片内存储、自然并行、适当窄位宽和领域编程抽象。窄位宽须满足精度而非免费优化。DNN把加权和及激活组成网络,训练调整参数、推理使用参数,推理总开销需累计调用次数与单次成本,不能只以用户数乘频率当总量。结构、数据和计算共同影响效果,不能说计算越多精度必越高或网络架构只能监督学习。
MLP、CNN和RNN以连接、空间复用和时间状态展示不同运算/访存特征,LSTM历史流行度不作今日排名。批量可复用权重并提高运算强度,但影响延迟和激活存储,不能把32输入权重摊销当全部成本1/32。首代TPU让主机指令驱动矩阵乘、累加、激活和局部缓冲,较粗指令可能执行多周期;软件栈区分底层稳定驱动与用户态翻译。Roofline同时看带宽斜线和计算平顶,精度与测试条件必须一致,书中性能功耗比不能当速度倍率,8位操作率也不能当浮点TFLOPS。Catapult随后从机房部署、可靠性、软件交互与可重部署角度说明FPGA平台价值。
Catapult以Shell承接PCIe、DMA、DDR、配置与互连,Role放业务逻辑,复用接口与调试机制减轻各团队负担。Brainwave用向量/矩阵复合指令链驱动连续数据流,并保留标量控制与内存/I-O仲裁,既非纯固定流水也不只支持CNN。ODSA以Chiplet组合主机、网络、CPU及领域模块,互连和内存分层帮助复用,成本、功耗与语义仍受封装和接口限制。总结将平台选择与业务变化、规模、工具及数据交互一起考虑,I/O经主机、设备直达或集成加速各有前提,不因减少CPU绕行就消除权限与同步。
读者核验:CUDA编程模型1.2核对块/SM与逻辑层次;异步执行2.5.1—2.5.2核对返回与完成、同步的区别;内存2.6核对UVA、管理内存和映射内存。访问2026-10-26,只将基本语义用于纠正旧书简化,未把新型号功能套入2018年TU102,也未运行GPU。
DSA五个减负原则进一步解释该问题。
CPU通用性带来额外成本进一步解释该问题。
推理成本需累计调用进一步解释该问题。
异构计算性能的三重制约进一步解释该问题。
异构并行需把任务匹配资源进一步解释该问题。
异构平台要同时降低使用门槛进一步解释该问题。
批量与计算驻留降低交互占比进一步解释该问题。
逻辑线程层次不同于物理核心进一步解释该问题。
内存空间表达不同共享范围进一步解释该问题。
依赖顺序不等于全局串行执行进一步解释该问题。
统一地址不等于统一物理位置进一步解释该问题。
统一内存不免除同步责任进一步解释该问题。
互连收益依拓扑和两端能力进一步解释该问题。
OpenCL用模型抽象异构设备进一步解释该问题。
上下文与命令队列分担管理进一步解释该问题。
工作项索引把并行任务对应数据进一步解释该问题。
OpenCL局部内存属于工作组进一步解释该问题。
异构运行包含资源完整生命周期进一步解释该问题。
FPGA平台分开固定壳和应用核进一步解释该问题。
FPGA软件栈承担部署与管理进一步解释该问题。
领域架构以已知负载分配资源进一步解释该问题。
位宽缩小必须受精度约束进一步解释该问题。
领域并行应自然暴露给软件进一步解释该问题。
神经元以加权和接非线性进一步解释该问题。
训练学参数推理用参数进一步解释该问题。
网络结构体现不同数据复用进一步解释该问题。
批量推理可摊薄权重读取进一步解释该问题。
TPU首代把矩阵计算靠近缓冲进一步解释该问题。
矩阵指令封装较粗计算任务进一步解释该问题。
计算与带宽共同约束性能进一步解释该问题。
稳定内核驱动与可变翻译分层进一步解释该问题。
加速卡部署还受机房条件约束进一步解释该问题。
平台壳与应用角色分离进一步解释该问题。
指令链驱动向量数据流进一步解释该问题。
芯粒复用改变集成成本结构进一步解释该问题。
互连分层使下层变化有边界进一步解释该问题。
平台选择取决于变化与规模进一步解释该问题。
设备直达路径减少主机绕行进一步解释该问题。
原书依据 · 38 处
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
- 异构加速 · 查看原书依据
云计算体系结构趋势
第8章把接口、卸载、虚拟化和异构计算组合为云系统方案。业务与管理分离先从设备模拟和直通、标准接口、后台数据处理,到控制管理职责迁移;这不是所有平台必须经历的固定分级。设备直通减少中转,后端服务和状态迁移仍有责任。以网络I/O为例,客体协议栈、虚拟驱动、设备、VPC处理与物理接口组成链路,卸载应分析整条路径,而不只看某个环节消耗。Lite Hypervisor或受限管理接口可以缩小部分访问面,但不能证明100%物理性能或消灭全部运维错误。
以数据为中心的模型让DPU承担I/O及可在线内处理的任务,减少全部数据都送主机CPU的需要;计算控制与数据路径不能混同,传统拓扑也并非完全没有P2P。DPU以嵌入式CPU、接口与加速模块协作。Nitro分解网络、存储、控制和保护职责,BlueField以SoC集成承接相应功能,均是书中代际案例,不作现行型号、价格和绝对安全承诺。作者再用SmartNIC—DPU—IPU—eIPU描述问题范围扩展,这是一种解释模型而非统一行业等级。
用户可见的加速服务需要开发、运行和配套资源接口,与隐藏的基础设施加速分层;隐藏实现不代表用户无法观察性能。云TPU的价值包括框架、模型、资源和数据服务协同,FaaS则以Shell和Kernel分开平台与可配置应用,还可交付第三方镜像,部署仍需匹配接口版本与资源。CPU加速器分立、DPU中心、CPU集成加速器或DPU集成加速器是不同架构选项。更大阵列只有在足够工作可驻留设备、交互成本可摊薄时才较易获益,不凭设备数推定性能。
存储服务从本地短路径到远程池化,再按访问需求分热温冷,不按产品名称永久分类。FPGA NVMeoF参考方案把数据路径与控制软件分工,可组合线内加密、压缩等,但不据此保证成本和性能全面领先。Pelican按冷负载约束供电、散热、带宽与活动盘数,用数据布局和调度把有限资源分给可并发组,以启动等待换低配置成本;批处理可摊薄启动,却增加排队。原书无风扇说法不采纳,原论文描述强制气流通道。网络部分开始区分Underlay、Overlay和应用网络服务,优化需贯穿端点、接口、交换和协议。
可编程交换芯片以P4和目标编译器把特定包处理映射到领域流水,支持差异化功能但不表示任意程序都能线速运行;原书第一、最快等厂商主张不作本轮比较结论。拥塞控制匹配网络能力与发送负载,接收流控保护接收者,容量、路由、准入、反馈和丢弃解决不同层面的压力。HPCC借INT返回路径负载,由发送端更新窗口和速率,比间接反馈更具体,但仍有采集/返回成本。原书零队列、收敛次数与PFC表现只属于转引测试,未在本轮复现。
EFA/SRD案例把应用接口、设备卸载和定制可靠数据报组合,利用多路径分散数据,并承担乱序、丢失和状态管理;多路径不自动保证任何故障无感。硬件定制随后分为业务驱动的由内而外和通用平台优化的由外而内,可以兼用。成本裁剪之外还要看研发、验证和系统迭代,AWS历史自主设计并非商用品一律迟缓的证据。OCP开放规范可复用与分摊研发,业务差异化仍可在共用平台上形成,不能把开放和落后、封闭和创新简单对应。
读者核验:Pelican原论文2.1—2.2有关硬件/资源域的返回段落,以及项目说明支持按冷负载配置、活动盘受限和软件调度;论文明确为强制气流通道,本笔记不沿用无风扇推断。访问2026-10-26,未通读全部15页,也未建设或测试机架。原书其余产品数字及“当前/未来”均按2021年前后历史语境处理。
DPU重塑单元关系进一步解释该问题。
网卡到eIPU的演进进一步解释该问题。
集成架构的通用代价进一步解释该问题。
Pelican软件调度冷存进一步解释该问题。
HPCC精确拥塞控制进一步解释该问题。
设备直通不等于完整I/O卸载进一步解释该问题。
管理隔离要约束实际访问接口进一步解释该问题。
数据处理可在进入CPU前完成进一步解释该问题。
数据处理器组合计算接口与引擎进一步解释该问题。
专用基础组件可组合云服务进一步解释该问题。
集成板卡需区分控制和加速进一步解释该问题。
用户加速与基础设施加速分层进一步解释该问题。
托管加速服务包含软件配套进一步解释该问题。
可重配置逻辑可打包为云镜像进一步解释该问题。
加速器阵列需足够本地工作量进一步解释该问题。
冷热分层按访问需求选择介质进一步解释该问题。
存储专用路径也需控制软件进一步解释该问题。
冷盘批处理摊薄启动代价进一步解释该问题。
网络优化需看完整协议路径进一步解释该问题。
拥塞控制与接收流控目标不同进一步解释该问题。
拥塞处置可跨容量路由与源端进一步解释该问题。
遥测闭环连接路径与发送器进一步解释该问题。
多路径数据报需处理乱序与丢失进一步解释该问题。
硬件定制从业务或通用平台出发进一步解释该问题。
定制价值要包含系统迭代成本进一步解释该问题。
开放硬件复用与差异化可共存进一步解释该问题。
原书依据 · 26 处
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
- 云计算体系结构趋势 · 查看原书依据
融合的系统
末章先确定系统边界:按待解决问题分析芯片、服务器或专有网络相连的数据中心,而非把每个物理盒子当作不可跨越边界;统一管理范围不消除延迟、故障和安全分区。随后把网络承载、传输、存储介质、后台任务、访问接口、业务系统和应用组织为共享堆栈,安全管理监控作为配套职责。层次描述服务依赖,不等同下层必硬件上层必软件。系统局部迭代通常保留多数已有接口,可把稳定部分与变化部分分开,再在ASIC/DSA、FPGA和嵌入式软件三个域内安排;域与层是两个维度,二八比例也不是物理定律。
实现可选独立服务器、扩展板卡、多Die封装或单芯片,不应把它们视为成本功耗单调改善的必经路线。集成收益与开发风险、制造、通信及可更新范围有关。跨层协同须围绕同一工作负载,同时看算法、软件、网络、板级散热电源和工艺。自研云芯片的优势在需求与部署资源,短板可能是积累与封闭体系;更合理的路径是让需求方深度参与架构,结合供应商的IP/芯粒/板卡和软件能力。功能超集帮助分摊研发却增加面积和验证负担,需求误判在较长开发与部署周期中风险放大,因此要以可编程域和合作能力保留变化空间。
硬件集成度的四级阶梯进一步解释该问题。
功能超集的负面连锁反应进一步解释该问题。
系统边界应由待解决问题确定进一步解释该问题。
系统层次不由软硬件标签决定进一步解释该问题。
云系统由共享堆栈支撑服务进一步解释该问题。
渐进迭代应隔开稳定与变化进一步解释该问题。
功能域不等同于堆栈层次进一步解释该问题。
跨层协同要围绕同一工作负载进一步解释该问题。
自研与合作需互补领域能力进一步解释该问题。
设计周期使需求误判代价放大进一步解释该问题。
跨章综合
“算法更快”和“系统更快”之间有完整接口路径。第2、5章的流水与多引擎能增加稳态吞吐,第4章的队列和DMA让供数与计算重叠,第7章又提醒主机剩余工作和跨设备传输仍占时间。作为读者教学例,若原任务十单位时间中只有七单位可加速,把这七单位压到零也仍有三单位;新增加的搬运还会抬高总时间。这个例子解释为什么不能仅报告加速器峰值,不是原书实测。
缓存、映射和控制面也有一条贯通关系。第3章TLB缓存地址翻译,第6章网络与存储表缓存资源映射,它们都在常用结果与较慢管理之间取舍。区别是未命中时谁去取、谁计算、正在处理的事务放哪里。网络整包转慢路径和存储命令挂起并不矛盾:对象大小、缓冲预算和数据是否与元数据分开不同。第4章关于“通知不是完成”的区分在此仍重要,补表通知不等于原事务已成功完成。
标准化与可编程是两种互补的变化管理。第1、4章标准接口让软件可面对一致的设备契约,第6—8章可编程表、P4和FPGA让内部实现适配变化,第9章的功能域决定哪些部分应保持稳定。外部接口相同不保证内部状态自动可迁移,可编程也不保证资源无限。评价时应分别问兼容什么、可改什么、改动如何生效、旧状态如何处理。
数据中心规模使成本从芯片扩展到供电、散热、网络与运维。第5章任务迁移能释放主机CPU,但第8章板卡软件仍可成瓶颈,Pelican则把物理约束直接交给调度。第9章因此要求跨层协同。近数据处理、远程资源池和更紧集成都是选项,收益依数据流与需求,不能同一时间把“减少网络搬运”和“无限扩大远程池”都当免费优势。
这本书最可迁移的阅读方法是先画职责与数据,再标出变化频率和约束,最后选实现。计算密度、交互粒度、映射粒度、缓存容量、可编程范围及研发/部署规模是不同轴,应逐项说明而不是合成一句“硬件更快”。
读者延伸与实践
第一项计划“对照Linux源码读Packed环”固定Linux v6.12提交,已准备源码快照和局部映射,后续以90分钟快速阅读进入完整添加—通知—回收及失败路径。第二项计划“对照三种I/O队列的交接”已填写Virtio、NVMe和RDMA的首轮角色/状态对照,后续补错误、恢复和持久化边界。前者问真实实现如何维护状态,后者问相似接口为何不能互相套用,均不默认自行重写一个设备。
以上交付是实践计划和首轮公开材料,未执行完整源码深读、设备测试、微基准或硬件改造。原有“在本机观察局部性”计划的文件路径保留,内容改为上述横向学习;局部性实验只有在提出阅读无法回答的具体问题时再安排。外部参考文献docx在EPUB中仅有下载提示,本轮未取得,不把它当已读材料;章节中的实际引文与术语已分别登记。