来源书籍

高性能超标量CPU:微架构剖析与设计

Skill 版本:v24 193 张卡片

李东声 等 · 机械工业出版社 · 2023-03-01 · ISBN 9787111724605

全书导读

本书关注一个问题:处理器如何在不改变程序可见结果的条件下,让更多指令并行前进?答案不是单独增加运算器,而是持续供给指令、识别依赖、保留多个动态版本、等待并调度就绪操作,再用可恢复的提交边界收束结果。读者需要先有寄存器、内存地址和基本二进制运算的认识;本笔记随章解释其余关键对象。出版信息来自本地EPUB版权页,未给出的版次不推断。

全书主线

第1章从软件契约出发。第2、3章解决操作从哪里来、下一步去哪;第4、5章解决名字和依赖怎样进入乱序窗口;第6至8章解决数值和数据怎样实际取得;第9章决定哪些结果可以成为正式状态;第10章用P6展示这些接口怎样协作。预测、预取和乱序都在提前做可能有用的工作,因此每次增加并行度,也要回答身份、资源、验证与恢复由谁负责。

flowchart LR
 A[取指与预测] --> B[译码与重命名]
 B --> C[等待与调度]
 C --> D[运算与访存]
 D --> E[写回与按序提交]
 D -->|纠错重定向| A
 E -->|释放在途资源| B

序

序从产业与人才培养角度解释本书的用途:高性能处理器设计需要长期积累,课程中的体系结构原理要与工业界的具体实现相互印证。这里的核心不是某一家公司的性能排名,而是建立从概念到完整设计的学习路径。序中的市场、政策及企业身份属于写作时的背景,本笔记不将其作为当前状态的依据。

前言

前言把本书定位为微架构设计的工程视角。指令集规定硬件应该向软件承诺什么,微架构则决定用哪些队列、表和数据通路兑现承诺。作者建议先理解已有设计,再讨论重构创新。因此本书先建立指令与流水线背景,再沿指令生命周期分析前端、乱序引擎、运算和访存,最后用P6把分散部件接起来。前言推荐的经典教材登记在概览文献表中;推荐本身没有展开教材内容,不另造知识卡。

第01章 CPU架构与流水线技术概述

从软件看到的指令,到硬件内部同时运行的多条指令,本章建立后续设计的共同语言。核心区别是架构承诺与实现选择:指令规定结果,流水线和调度选择怎样更快得到结果。

1.1 复杂指令集与精简指令集概述

指令集架构是软件与硬件共同遵守的接口。复杂指令集倾向把较多工作压进紧凑、可变长的编码,精简指令集倾向让常用指令和操作数字段更规则,并将访存与寄存器计算分开。复杂指令可通过微程序或微操作分解实现,但不能据此断言所有CISC指令都必须运行微码。类似地,RISC的精简也不等于整颗处理器简单或所有操作只花一个周期。比较两类设计时要同时看代码密度、译码和实际执行资源。

进一步解释本节具体对象、方案与边界的卡片:

  • 复杂指令与代码密度:CISC通过较丰富的操作和可变编码提高代码密度,单条指令可能完成多个低层操作。
  • 微程序如何控制硬件:微程序是一组控制字的序列,用来驱动完成复杂指令所需的底层操作。
  • 精简指令的硬件取舍:RISC倾向用规则的指令编码、简单寻址与寄存器运算降低译码和控制难度,并由Load/Store完成寄存器与存储器间的数据搬运。
原书依据 · 3 处

1.2 ARM指令集概述

ARM一节介绍寄存器、条件执行、移位操作数与寻址方式。条件码保存先前运算产生的零、负、进位或溢出等状态,后续条件指令据此决定效果;前变址和后变址则区别于何时更新地址基址。这里必须区分执行状态:书中CPSR、r14和BLX一类叙述属于AArch32语境,不应直接套到AArch64。AArch64的链接寄存器使用x30。指令集名称或版本号不能替代具体执行状态。

进一步解释本节具体对象、方案与边界的卡片:

  • 条件码表达运算状态:N、Z、C、V分别表示负号、零结果、进位与有符号溢出等状态,后续条件执行或分支可读取这些状态。
  • 前后变址的访问顺序:前变址先用基址与偏移计算访问地址,再按指令要求回写基址;后变址先用原基址访存,随后更新基址。
原书依据 · 2 处

1.3 RISC-V指令集概述

RISC-V把基础整数指令与可选扩展分开描述,硬件和编译器需要对所支持的集合达成一致。零寄存器让某些常量与丢弃结果的操作有统一编码;特权级为操作系统和应用划定权限边界。基础格式使寄存器字段位置有规律,便于并行译码。算术、逻辑、移位、访存和跳转仍要分别按指令语义解释:例如算术右移复制符号位,JAL保存返回位置。原书的向后跳转预测建议不能理解为所有合法实现都必须具备某种预测器。

进一步解释本节具体对象、方案与边界的卡片:

  • 模块化指令集:RISC-V把基础整数指令与可选扩展分开,乘除法、原子操作和浮点等能力由相应扩展提供。
  • 零寄存器与通用寄存器:RISC-V的整数寄存器x0固定读为零,其他通用寄存器保存程序需要的数值。
  • 特权级保护软件层次:RISC-V的机器、监督、用户等特权模式区分软件能执行的操作。
  • 指令格式保持字段规律:RV32I的R、I、S、U及B、J变体通过不同字段组合表达寄存器运算、立即数、访存与跳转。
  • RV32I算术与移位的边界:RV32I的ADD和SUB按32位保留结果,算术溢出不会自动转成异常;SLT则输出有符号比较结果。
  • 链接跳转保存返回地址:RV32I的JAL和JALR在跳转时把下一条指令地址PC+4写入目标寄存器;选择x0便丢弃链接值。
原书依据 · 6 处

1.4 MIPS指令集概述

MIPS用R、I和J等规则格式讲解操作数与指令编码的关系。计算通常在寄存器之间完成,Load和Store负责数据搬运;立即数字段先按具体指令做符号扩展或零扩展,再参与运算。访存宽度与扩展方式共同决定读出的寄存器值。跳转地址字段也需要与对齐规则及PC相关位组合,不能把缩短的编码字段当作完整字节地址。书中指令枚举按职责组织,产品历史与版本叙述只作为当时背景。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 4 处

1.5 超标量CPU设计概述

流水线把一条指令拆成多个阶段,使不同指令可同时处于不同阶段;超标量则进一步允许一个周期处理多条指令。吞吐量提升受到结构冲突、数据依赖和控制转移限制,因此加深流水线与加宽并不自动提高程序速度。乱序处理器动态寻找已就绪的操作,仍要保持架构结果正确;VLIW更多把并行安排交给编译器。IPC和CPI描述的是指定统计口径下每周期完成指令数及每指令周期数,不能混用宏指令与微操作。

进一步解释本节具体对象、方案与边界的卡片:

  • 超标量与流水线不同:超标量在同一时钟周期向多个执行单元分发多条指令,以利用单个指令流的指令级并行。
  • 五级流水线分工:经典流水线把指令处理拆为取指、译码、执行、访存和写回。
  • 流水线为何停顿:数据冒险来自后指令需要前指令尚未产生的值;控制冒险来自下一条取指地址尚未确定;结构冒险来自同周期硬件资源冲突。
  • 深流水线的性能权衡:把复杂阶段继续切分有助于满足时序、提高时钟频率,却增加单条指令经过的阶段和错误预测后需要丢弃的工作。
  • IPC与CPI的口径:IPC表示每时钟周期完成的指令数,CPI表示每条指令平均消耗的周期数;在相同指令和计数窗口下互为倒数。
  • 乱序执行仍需保序:不同指令可消耗不同执行周期,就绪的后指令可以先执行或先完成,但仍须保证数据依赖、控制结果、硬件资源与精确异常语义正确。
  • 静态与动态调度:静态调度由编译器依据代码结构安排操作,能看到较大范围的程序,却难以提前知道真实访存延迟、分支和指针值。
  • 超长指令字的责任分配:VLIW把多个操作编码在一条长指令的不同槽位中,由编译器安排能并行的操作交给相应执行单元。
原书依据 · 8 处

本章定位与衔接

本章先区分处理器核与包含控制器、总线等部件的片上系统。本书主要讨论核内部如何执行指令。学习后续章节前需要认识三类指令职责:计算数值、搬运数据和改变控制流。寻址方式回答操作数在哪里,例如值直接写在指令中、放在寄存器里,或通过基址和偏移算出内存地址。这些架构层规定最终会变成前端译码、重命名和地址生成单元所需的控制信息。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 3 处

第02章 CPU前端与指令缓存设计

前端需要持续供应可执行的操作。本章从缓存局部性解释为什么可以减少取指等待,再连接地址翻译、预取、队列与译码。各部件共同决定供给是否及时、正确和足够宽。

2.1 内存的层次结构与缓存的基本架构

缓存把较小而快速的存储放在处理器附近,以时间局部性和空间局部性减少等待主存。时间局部性指刚用过的数据还可能再用,空间局部性指邻近地址也可能被访问。工作集会随程序阶段变化,因此容量是否足够取决于正在活跃的集合。把指令缓存和数据缓存分开有利于独立访问及优化,统一缓存则能共享容量;二者都是资源分配选择。

进一步解释本节具体对象、方案与边界的卡片:

  • 内存墙与存储层次:CPU计算速度与主存访问速度的差距形成内存墙。
  • 时间与空间局部性:时间局部性指近期用过的地址容易再次使用,空间局部性指邻近地址容易相继使用。
  • 工作集随执行阶段变化:工作集是程序某个阶段频繁访问的地址集合。
  • 分离与统一缓存:一级指令缓存和数据缓存分离,可让取指与数据访问并行,书中称为哈佛缓存;更低层可统一保存指令和数据,书中称为普林斯顿缓存。
原书依据 · 4 处

2.2 指令缓存分类与访问读取

缓存地址通常拆成块内偏移、组索引和标签。组索引缩小候选范围,标签与有效位确认候选是否真的包含所需块。直接映射每组只有一路,访问简单却容易冲突;组相联增加候选路数,全相联允许块进入更多位置,但比较与选择硬件更复杂。标签检查和数据读取可并行以降低延迟,也可能读出多路数据增加能耗。容量、路数和行大小应一起计算。

进一步解释本节具体对象、方案与边界的卡片:

  • 标签与有效位:缓存数据阵列保存块内容,标签阵列保存该位置实际对应的内存块身份,有效位说明内容能否使用。
  • 组路与缓存容量:缓存划分为组,每组包含若干路,每路位置保存一个缓存块。
  • 直接映射的冲突代价:直接映射让每个内存块只有一个允许的缓存位置,命中选择快、硬件简单;但映射到同一位置的活跃块会反复互相驱逐。
  • 组相联与全相联:组相联允许块放进指定组内任意一路,增加放置自由度以减轻冲突;全相联允许放进整个缓存任意位置,需要搜索更多标签。
  • 标签数据并行访问:先查标签再读命中路的数据,可避免无用的数据阵列读取并节能;同时读取各路标签与数据,可在确认命中后立即选择结果,减少延迟但增加功耗。
原书依据 · 5 处

2.3 指令缓存的替换策略选择

替换策略决定缺失且空间不足时牺牲哪条缓存行。LRU按最近使用时间,LFU按累计频率,两者回答的是不同问题。扫描大集合会污染基于新近性的策略,分段LRU、EELRU及频率与新近性混合策略则尝试识别复用并限制污染。理想最优替换要知道未来访问,适合作为比较基准,不能直接用于真实在线预测。策略评价要回到负载轨迹与额外状态成本。

进一步解释本节具体对象、方案与边界的卡片:

  • 最优替换需要未来信息:理论最优替换剔除下一次使用时间最远的块,以最小化未命中。
  • LRU与扫描污染:LRU保留最近使用的块,剔除最久未用者,适合具有时间局部性的访问。
  • MRU保留部分旧工作集:MRU剔除最近使用的块,保留部分较旧内容。
  • EELRU识别颠簸:EELRU比较新近序列不同区域的命中分布。
  • 分段LRU抵抗扫描:分段LRU把缓存分为试用段和保护段。
  • LFU与历史频率老化:LFU为缓存行维护访问次数,优先剔除计数低者,较能抵抗一次性扫描。
  • FBR分段统计频率:FBR把新近序列分成新、中、旧段:新段暂不累加频率,避免短暂密集访问制造虚高;中段给常用块积累计数的机会;只在旧段选择低频块剔除。
  • LRFU加权历史访问:LRFU对历史访问贡献做随时间衰减的加权求和,用CRF指标兼顾新近与频率。
原书依据 · 8 处

2.4 指令缓存的性能衡量标准与硬件预取设计

预取在真正需求到达前请求可能需要的指令块。它要同时解决取什么、何时取和放在哪里:预测很准但来得太晚,仍不能覆盖缺失延迟;取太多也会抢占带宽并驱逐有用缓存。下一行方法利用连续性,分支导向方法利用预测的控制流,历史重放与调用上下文方法则借过去的访问关联推测未来。辅助线程和前瞻执行提供另一种提前获得地址的途径,不能把这些方案理解成固定串行流水。

进一步解释本节具体对象、方案与边界的卡片:

  • 缓存未命中的三类原因:强制未命中来自首次访问块,容量未命中来自工作集无法容纳,冲突未命中来自映射位置受限。
  • 预取的三个评价维度:预取在实际需求前获取可能要用的块。
  • 软件与硬件预取:软件预取由编译器或程序插入指定地址的预取指令;硬件预取由处理器观察运行行为并自动发请求。
  • 下一行预取的边界:下一行预取根据顺序访问预先获取相邻缓存块,生成逻辑简单。
  • FTQ连接预测与预取:提取导向指令预取FDIP通过提取目标队列FTQ连接分支预测和取指流水线。
  • 间断性预测器:间断性预测表把包含分支的指令块地址映射到跳转目标,让顺序预取在已知控制流间断处也能预取目标路径。
  • 辅助线程提前取指:预知取指使用辅助线程提前执行与关键控制流有关的计算,为较慢主线程提供未来指令地址。
  • TIFS重放未命中序列:TIFS记录重复出现的指令缓存未命中流,用当前缺失块找到日志位置,再预取日志中的后续块。
  • 调用上下文辅助预取:RDIP用返回地址栈形成调用上下文签名,将签名和预取地址关联起来,在调用或返回时触发查询。
  • 按提交序列记录指令流:前瞻性指令提取改为记录已提交指令访问的缓存块序列,而非只记录取指未命中,并单独处理流中的中断或陷阱。
原书依据 · 10 处

2.5 TLB与缓存的组织方式

TLB缓存虚拟页到物理页的翻译,避免每次访问都遍历页表。缓存可以在索引或标签匹配时使用虚拟地址或物理地址,形成PIPT、VIVT和VIPT等组织。VIPT尝试用页内偏移先索引,同时查询TLB,再用物理标签确认身份;索引位若越出翻译不变的页内范围,就需要处理别名或施加额外约束。地址翻译与缓存命中是两种不同的查找。

进一步解释本节具体对象、方案与边界的卡片:

  • TLB缓存地址翻译:页表记录虚拟页到物理页的映射,TLB缓存近期翻译及权限等属性,避免每次都访问主存页表。
  • PIPT与VIVT:PIPT用物理地址索引和比较标签,身份清晰但地址翻译可能延长关键路径;VIVT用虚拟地址索引和标签,查找更早,却要处理不同地址空间同名和同一物理块多别名的问题。
  • VIPT利用页内偏移:VIPT用虚拟地址先索引缓存,同时查TLB得到物理标签,再比较确认命中。
原书依据 · 3 处

2.6 微操作缓存与循环缓冲器设计

微操作缓存保存已译码的操作,再次命中时可绕过复杂译码,减小前端延迟和功耗。循环缓冲则针对能装入的小循环复用既有指令或微操作流,让部分前端暂时停止重复工作。二者都依赖内容仍有效、边界可识别和退出条件正确。它们提升的是供给路径效率,并不会消除后端真实数据依赖。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 2 处

2.7 指令提取单元设计

取指单元把下一取指地址、地址翻译、指令缓存访问和指令队列接在一起。下一地址可来自顺序推进、分支预测或后端纠错重定向;重定向需要清除错误路径状态。队列把短期供给与消费速度差隔开,让译码不必每周期都与缓存访问完全同步。队列满或未命中仍会反压,解耦不能无限吸收延迟。

进一步解释本节具体对象、方案与边界的卡片:

  • 指令队列解耦前端:指令队列在取指和译码之间暂存指令,吸收取指气泡和后级阻塞,使两侧不必每周期同步。
  • 取指地址的多个来源:取指单元维护PC,正常时顺序推进,预测分支可给出目标,冲刷恢复和异常也可重定向。
原书依据 · 2 处

2.8 指令译码单元设计

译码先辨认指令边界,再解释操作码、寄存器和寻址信息。变长x86编码使跨块拼接和对齐尤其重要,简单与复杂译码器可分工处理不同指令。书中的ModR/M和SIB示例说明地址操作数如何组合基址、变址、比例和位移;字段存在与否由编码规则决定。此处图表有历史模式范围,不能把旧编码示例当成所有现代x86扩展的完整规范。

进一步解释本节具体对象、方案与边界的卡片:

  • 译码先定边界再解语义:译码需要从指令流识别每条指令的边界,再解析操作类型、操作数和目标等控制信息。
  • 简单复杂译码器分工:典型x86译码设计用多个简单译码器处理单微操作指令,用复杂译码器处理需多个微操作的指令,更复杂的指令再交微码序列器读取ROM中的序列。
  • x86寻址字段分工:ModR/M描述寄存器与存储器操作数,特定编码再用SIB表达基址、变址及缩放,并可能带位移;立即数则直接提供常量操作数。
原书依据 · 3 处

本章定位与衔接

前端的任务是持续向执行部分供给正确路径上的操作。指令缓存减少等内存的时间,预取争取提前拿到指令,译码把架构指令转成内部表示。它们的局部性能必须共同匹配后端消费速度:一个大缓存不能替代准确预测,一个强译码器也会因没有字节而闲置。本章因此先解释存储组织,再逐步接到完整取指和译码路径。

第03章 分支预测单元设计

分支使顺序取指失去确定的下一地址。预测方向与目标让流水线提前工作,恢复机制则保证猜错不会成为架构结果。预测系统还要在有限访问时间、容量和训练延迟之间取舍。

3.1 分支预测的原理

条件分支尚未执行时,前端往往还不知道下一取指方向;间接分支还可能不知道目标。分支预测用程序历史等信息先给出推测,使后续工作提前开始。推测不是承诺,必须由真实执行核验,并在错误时回收年轻状态、从正确地址重取。预测准确率、解析延迟和恢复代价共同影响收益。

进一步解释本节具体对象、方案与边界的卡片:

  • 预测必须配套恢复:分支方向和目标在真正执行前可能未知,前端若一直等待会损失多个周期的取指槽。
原书依据 · 1 处

3.2 分支跳转方向预测

方向预测回答条件分支是否跳转。静态策略使用方向等固定启发,动态策略学习此前结果。饱和计数器用多个状态提供滞后,减少一次偶然结果导致的反复切换;历史表进一步利用本分支或其他分支的近期模式。TAGE用不同长度历史的带标签表匹配上下文,统计校正和循环机制补足不同模式。感知机把历史特征加权求和,但线性分类仍有表达边界。书中的具体两位历史示意不等于所有标准二位计数器图。

进一步解释本节具体对象、方案与边界的卡片:

  • 静态预测的假设:静态预测不依赖不断更新的运行历史,可固定预测跳转、不跳转,或根据前后向目标选择。
  • 饱和计数器提供滞后:两位计数器用强弱两种置信状态分别支持跳转或不跳转预测。
  • 全局与局部分支历史:局部历史描述特定分支过去的结果,全局历史描述此前多个分支共享的执行序列。
  • TAGE选择匹配历史:TAGE由基础预测器和多组带部分标签的预测表组成,不同表使用近似几何增长的历史长度。
  • 有用计数控制表项分配:TAGE条目除了方向计数还保存标签和有用程度。
  • 统计校正补足方向偏差:TAGE善于利用历史关联,部分分支却主要表现为统计方向偏向。
  • IUM弥补延迟训练:预测表若等到分支退出再更新,流水线中较早分支已经解析的新信息暂时不可见。
  • 循环预测计数与置信度:恒定行程循环可记录已观察的迭代次数,再比较当前迭代以预测退出。
  • 感知机加权分支历史:感知机将分支历史编码为正负一,计算带偏置的加权和,以结果符号预测方向。
  • 线性可分限制预测能力:单层感知机用一个超平面分开两类结果,可学习线性可分的方向关系,例如逻辑与;异或的正负样本无法被一条直线分开。
原书依据 · 10 处

3.3 分支跳转目标预测

目标预测回答跳转后到哪里。BTB记住分支位置、类型和目标;返回地址栈利用调用与返回的嵌套关系;间接目标预测利用历史区分同一指令的多个目标。循环终止预测主要判断方向,书中虽放在本节,不能因此当作普通目标地址查表。投机更新的栈或计数器也要恢复,自校正栈为已弹出内容保留恢复记录。双跳转预测则只在可识别的稳定片段上跳过中间预测。

进一步解释本节具体对象、方案与边界的卡片:

  • BTB提前提供目标地址:BTB保存分支位置、类型和目标等历史信息,在取指时查询,让前端不必等译码或执行后才生成跳转目标。
  • 返回地址栈按调用配对:函数返回目标取决于调用位置,单纯记住某条返回指令的上一次目标可能混淆不同调用。
  • 自校正栈保存弹出历史:自校正返回地址栈把投机返回弹出的地址和位置放入校正队列,并维护已确认栈位置。
  • 循环终止缓冲:LTB为循环分支记录标签、历史行程、投机与非投机迭代数及置信度。
  • ITTAGE预测多个目标:间接分支同一个PC可能跳到多个目标。
  • 按位感知机预测目标:BLBP为目标地址各位训练权重,多个历史子预测器合成每位倾向,再与已保存的候选目标比较相似度,选择最匹配者。
  • 双跳转BTB利用静态调用片段:若调用目标内是一段行为稳定、以无条件返回结束且无其他条件分支的序列,BTB可在一次预测中给出调用目标和隐含返回目标。
原书依据 · 7 处

3.4 分支预测单元与取指令单元解耦合设计

分支预测和取指解耦后,预测器可以领先生成取指块地址,放入FAQ等队列;取指单元按缓存与下游状态消费这些地址。取指ID把两条流水中的同一块关联起来,避免预测信息与实际指令错配。重定向、缓存缺失重试、正常接受请求具有不同优先级,读写指针必须配合更新。解耦隐藏的是短时延迟,容量和错误路径仍然是约束。

进一步解释本节具体对象、方案与边界的卡片:

  • 解耦队列让预测领先:预测器与取指流水线通过地址队列独立推进,缓存未命中期间仍可积累后续预测。
原书依据 · 1 处

3.5 分支预测单元的设计思路

分支预测子系统常用快小与慢大多级结构:早期尽快给目标,后级有更多信息时可纠正。分区、去重和差分目标编码尝试提高有限BTB容量的利用率,配置引导预取利用软件剖面补足目标。选择性冲刷只保留已证明与错误分支无关的工作;Branch Runahead尝试提前执行影响难预测分支的依赖链。后两者增加恢复和依赖分析复杂度,是特定方案而非所有处理器的通用流程。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 5 处

本章定位与衔接

本章把前端供给问题进一步聚焦到控制流。方向、目标、返回、循环与间接跳转各有不同信息需求,所以实用预测器通常是协作系统。即使每个局部表更大,访问时序、更新延迟和误预测恢复仍会限制整体效果。第4章开始处理另一种障碍:路径即使预测正确,指令之间仍可能共享寄存器名称或存在真实生产消费关系。

第04章 寄存器重命名单元设计

乱序核需要同时保留同一架构寄存器的多个动态版本。重命名首先解决名字复用冲突,然后才讨论值放哪里、何时读取和如何回收;它不能消除真实计算依赖。

4.1 寄存器重命名技术概述

读后写和写后写等名字冲突来自有限寄存器名的复用,重命名为不同动态写入分配不同存储身份,从而消除WAR和WAW;RAW表示真实的数据生产消费关系,仍要等待或前递。结果前递让消费者在提交前使用已算出的正确版本。值预测与值重用又不同:前者猜结果并需要验证,后者复用满足条件的既有计算结果。它们不能与单纯换名字混为一谈。

进一步解释本节具体对象、方案与边界的卡片:

  • 真假数据相关:RAW要求消费者读取生产者的新结果,是必须保持的真依赖;WAW和WAR来自复用同一存储名字,分别会颠倒最后写入值或让前指令读到过早覆盖的值。
  • 重命名消除名字复用:寄存器重命名为不同目标写入分配不同物理位置,让多个指令不再争用同一个架构名字。
  • 结果前递缩短等待:前递将执行单元刚产生的结果直接送给依赖它的指令,省去先写寄存器再读取的往返。
  • 值预测必须校验恢复:值预测根据历史猜测操作数,让消费者与生产者并行推进;真实结果出来后验证,正确则强化置信度,错误则撤销并用正确值恢复。
  • 值重用缓存计算结果:值重用保存先前操作的输入、操作种类和结果。
原书依据 · 5 处

4.2 寄存器重命名的原理与过程概述

源操作数重命名要找到程序顺序上最近的旧生产者,目的操作数则需要分配新身份。同一周期进入多条指令时,后面的指令还可能依赖同批前面的写入,因此映射表更新要有批内旁路。何时读取实际数值会影响队列保存数据还是标签,但不改变应该消费哪个动态版本这一正确性条件。

进一步解释本节具体对象、方案与边界的卡片:

  • 源重命名与目标分配:目标重命名从空闲表分配新的物理位置,并更新映射;源重命名查询已有映射,找到它应读取的生产者版本,不再额外分配位置。
  • 队列前后读操作数:队列前读把已取得的值和未就绪生产者标签放入队列,结果广播后可捕获值;队列后读主要保存物理寄存器标识,选中执行时再读取。
原书依据 · 2 处

4.3 寄存器重命名技术的设计空间

重命名存储可以分立于架构寄存器、与物理寄存器堆融合,或放在ROB等结构中。不同组织影响何时释放旧版本、如何提交和如何恢复。容量决定可以保留多少在途写入,端口决定每周期能读写多少操作数;二者都不是单独扩大就足够。端口增加还会带来面积、布线及延迟成本,必须与流水宽度和功能单元一起设计。

进一步解释本节具体对象、方案与边界的卡片:

  • 融合寄存器的生命周期:融合寄存器堆同时容纳已提交架构状态和投机结果。
  • 分立与ROB保存结果:分立重命名堆把临时结果与架构寄存器分开,提交时复制结果;另一方案在ROB条目增加结果字段,兼顾顺序提交和暂存结果。
  • 寄存器容量限制在途量:重命名缓冲容纳未提交指令的结果,其需求与调度窗口、执行单元及访存队列中的在途指令有关。
  • 寄存器端口的面积代价:读端口需覆盖同周期源操作数需求,分立方案还可能需要提交读端口;写端口需接收并发产生的结果。
原书依据 · 4 处

4.4 寄存器重命名的映射方法

映射表直接以架构寄存器编号查当前物理身份;相联方案则在多个条目中比较逻辑名并识别最新版本。后者可用最新位等状态帮助选择,但多处同时更新时更难保证一致。超标量重命名还需要处理同批依赖,增加宽度会把读、写与旁路复杂度一起放大。

进一步解释本节具体对象、方案与边界的卡片:

  • 映射表与相联查找:映射表以架构寄存器索引,直接得到最新物理版本;相联方案在每个缓冲条目保存架构名字并标识最新版本,查询时并行匹配。
  • 重命名宽度不是免费扩展:每周期重命名更多指令,需要更多映射读写端口,还要在同一批指令之间检查依赖并前递新映射。
原书依据 · 2 处

4.5 寄存器重命名可能的实现方案

本节把多个重命名维度交叉形成设计空间,用历史CPU说明不同组合确实存在。表格的价值是提醒设计者先明确状态放在哪里、何时读取、如何映射,再评估整体代价;不能把出现次数当成优劣证明。各维度的独立含义已经在前几节解释,组合表并入这些卡片,不为每个历史产品重复生成同一机制。

4.6 寄存器重命名的实现过程

空闲表分配新物理身份,提交时按具体组织回收不再需要的旧身份。分支错误和异常会使部分投机映射失效,需要用检查点或沿历史回滚恢复正确边界。恢复映射和恢复空闲资源要同时成立,否则可能读错版本或逐渐泄漏寄存器。异常通常要等到正确提交边界再确认,不能仅因为执行阶段先看到错误就清除所有更老工作。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 3 处

本章定位与衔接

寄存器重命名使同一个架构名字能够同时对应多个动态版本,是扩大乱序窗口的基础。本章的设计空间与下一章队列组织互相制约:队列若保存标签,就需要在后续读取物理寄存器;若保存数值,则需要更宽的数据存储和广播路径。先分清名字、身份和数值,才能看懂这些组合。

第05章 发射队列设计

发射队列负责从窗口中找出现在能执行的指令。就绪、获选、执行完成和提交是不同状态,队列组织与寄存器读取时机决定数据怎样流经这些状态。

5.1 发射队列的原理

发射队列保存已进入窗口、还在等待操作数或资源的指令,使就绪指令能够绕过暂时未就绪的指令先执行。队列扩大可选集合,但不能越过真实RAW依赖,也不能凭空增加执行端口。书中Issue与Dispatch在不同图里的用法有差别,本笔记按进入窗口、从队列选出执行和提交三个动作说明,避免只靠译名判断顺序。

进一步解释本节具体对象、方案与边界的卡片:

  • 发射队列扩大可选窗口:发射队列让指令先进入等待区,再从更大的窗口挑选操作数就绪且执行资源可用的指令。
原书依据 · 1 处

5.2 发射队列设计空间

分立队列按功能划分,统一队列共享容量,分组结构在共享程度与连线开销之间折中。多功能或复合结构还可能耦合资源生命周期。入口与出口端口决定每周期进入和离开的上限,不同类型指令的分布会导致局部排队,即使全局还有空位。队列组织应与端口能力和功能单元连接一起比较。

进一步解释本节具体对象、方案与边界的卡片:

  • 分立分组与统一队列:分立队列各自服务特定执行单元,控制简单但容量容易不均;分组队列服务一类多个执行单元,提高共享和调度灵活性;统一队列服务全部执行单元,利用率潜力高但端口、仲裁和最长数据宽度开销更大。
  • 复合队列耦合生命周期:复合结构让发射队列兼任ROB或重命名存储,复用部分状态与空间。
  • 队列端口决定供给能力:写端口限制每周期可进入队列的指令数,读端口限制每周期可送去执行的数量。
原书依据 · 3 处

5.3 操作数获取策略

进入队列前读数,条目需要保存实际源值并接受后续广播;队列后读数,条目主要保存物理标签及就绪信息,选出指令后再读寄存器堆。前者增加队列宽度,后者把压力移到后级读端口和时序。三源操作、同时发出多条指令及旁路命中都会影响端口需求,不能只用架构寄存器数推导。

进一步解释本节具体对象、方案与边界的卡片:

  • 前读保存值后读保存标识:队列前读在入队时取操作数,条目要容纳宽数据及就绪状态;后读在选中执行时读取寄存器,条目主要保存寄存器标识。
  • 操作数端口取决于阶段:前读按入队指令的最大混合需求配置寄存器读端口;后读按同周期选中执行的指令需求配置。
原书依据 · 2 处

5.4 发射队列的工作机制

运行示例用不同延迟的乘除操作说明,指令进入队列的顺序与真正执行顺序可以不同。消费者等待生产者标签,结果广播唤醒所有匹配源,但就绪后仍要仲裁执行资源。一个600周期的慢操作不应让所有无关工作闲置;反过来,较年轻指令即便早算完,也未必能马上按架构提交。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 3 处

5.5 发射队列在超标量CPU中的应用

历史CPU示例把队列布局、操作数读取时机、端口与存储组织联系起来。结论不是统一队列总胜过分立队列,而是容量利用、调度复杂度、读写带宽与时钟目标相互牵制。产品名只是具体组合的例证;机制已经保留在对应卡中,不为表格的每行制造新结论。

进一步解释本节具体对象、方案与边界的卡片:

  • 队列设计组合评估:发射队列可沿指令覆盖范围、布局、操作数获取策略和分发方法拆解设计空间。
原书依据 · 1 处

本章定位与衔接

发射队列把重命名建立的数据流关系变成每周期的调度选择。它一边等待操作数,一边观察功能单元是否可用,并通过广播或标签唤醒推进消费者。接下来的执行单元必须提供可预期的结果时序或取消机制,队列才能安排依赖者和写回通路。

第06章 执行单元设计

执行单元把操作转成实际电路运算。本章既讲加法、移位、乘法与SIMD,也讲结果怎样通过旁路送到消费者。局部运算优化最后仍要服从全核的时钟与互连成本。

6.1 算术逻辑运算单元设计

ALU负责整数加减、逻辑、比较和移位等基本运算,并按指令语义产生标志。加减法可复用同一加法器,减法应写作加上B的按位取反再加一,而不是把数学负数再额外加一。可变移位常由分级选择实现,前导零检测可用树降低串行搜索深度。这些结构把逻辑功能转成关键路径、面积和共享控制的设计问题。

进一步解释本节具体对象、方案与边界的卡片:

  • ALU的运算与标志:ALU处理整数算术、逻辑及移位等操作,部分架构还更新进位、零、符号和溢出等标志。
  • 加减法共享数据通路:补码减法A-B可写成A+按位取反B+1,通过选择B是否取反及输入进位复用同一个加法器。
  • 分级选择实现可变移位:8位移位量可拆成是否移1、2、4位的三级选择,更宽数据按二的幂继续分级,选择器深度随位宽对数增长。
  • 树状检测前导零:前导零检测统计最高有效位起连续零的数量。
原书依据 · 4 处

6.2 定点乘法运算设计

乘法器先生成部分积,再压缩多个加数,最后做一次完整进位传播得到结果。Booth编码通过重写连续的一减少部分积数量,保留进位加法器把三个输入压成和与进位两个输出。Wallace与Dadda树用不同压缩安排减少层数和加法器开销。压缩中暂不传播全部进位不等于丢弃进位,而是延迟到最终加法统一处理。

进一步解释本节具体对象、方案与边界的卡片:

  • 乘法器的三段职责:定点乘法先按乘数产生带权部分积,再压缩为两个加数,最后用进位传播加法器得到最终乘积。
  • Booth编码连续的一:Booth用连续一段二进制一的边界加减替代逐位相加,例如6=8-2。
  • 二阶Booth减少部分积:二阶Booth对交叠的三位乘数编码,每组得到0、正负1或正负2倍的部分积系数,16位例子可由16个部分积降为8个。
  • 保留进位压缩三加数:3:2压缩器将三个加数表示成两个输出:逐位和与需要左移对齐的进位。
  • 树形部分积压缩:串行压缩每次并入一个部分积,级数随数量线性增长;Wallace树让多组压缩并行,减少关键路径层数。
原书依据 · 5 处

6.3 单指令多数据SIMD设计

SIMD把宽寄存器拆成多个元素槽,让一条指令并行执行多个相似运算。它的数据重排操作负责交换、交织或选取元素位置,为后续向量计算准备布局。性能收益依赖数据适合分组、通路宽度及供数能力,不能把向量位宽直接当成所有程序的加速倍数。

进一步解释本节具体对象、方案与边界的卡片:

  • SIMD的数据并行:SIMD让同一操作同时作用于多个数据元素,与超标量同时执行多条独立指令不同。
  • 重排指令组织数据:SIMD的unpack把不同向量元素交叉组合,shuffle按指定顺序重新排列元素。
原书依据 · 2 处

6.4 旁路网络设计

旁路网络把执行结果直接送给等待消费者,缩短经过寄存器堆写回再读取的等待。但功能单元越多,源目的连接和选择器越复杂,长连线可能影响时钟。集群把局部高带宽连接保留在组内,跨组通信支付额外代价;调度因此也要考虑数据位置,而不只是某个单元是否空闲。

进一步解释本节具体对象、方案与边界的卡片:

  • 旁路网络的时序成本:旁路把尚未写回寄存器的结果送到消费者输入,可缩短依赖链等待。
  • 集群限制全局互连:集群把执行单元及寄存器、旁路分成局部组,组内快速互通,跨组通信另付延迟。
原书依据 · 2 处

本章定位与衔接

执行单元完成真正的数值计算,发射队列负责决定何时把哪条操作送来,结果再通过写回和旁路反馈。第6章主要处理定点和数据通路组织,第7章独立解释浮点表示、舍入和异常。这种划分提醒读者,执行器延迟既来自电路结构,也来自必须实现的数值语义。

第07章 浮点运算单元设计

浮点运算不能只实现实数算式,还要兑现有限表示、特殊值、舍入及异常语义。加、乘、除和开方选择不同数据通路,但结果必须满足同一架构数值规则。

7.1 浮点数据格式与运算标准——IEEE754

浮点数用符号、指数和有效数表示较大范围的数值;有限编码意味着很多实数无法精确表示。特殊编码包括零、无穷和NaN,非规格化数填补零附近的一段范围。舍入规定精度不足时保留哪个可表示值,保护位、舍入位和粘滞位帮助判定被丢弃部分。异常需要按具体操作判断:有限非零除零与零除零不同,安静NaN也不应笼统等同于每次都触发无效异常。

进一步解释本节具体对象、方案与边界的卡片:

  • 浮点的符号指数尾数:二进制浮点数把符号、带偏置指数和有效数字分开编码,用有限位宽兼顾较大动态范围与相对精度。
  • 浮点特殊编码:指数全零时,尾数零表示有符号零,尾数非零表示非规格化数;指数全一时,尾数零表示无穷,尾数非零表示NaN。
  • 舍入方向与最近偶数:结果无法用目标格式精确表示时,最近偶数模式选距离最近的可表示值,正好一半时选最低保留位为偶数者。
  • 保留低位信息判断舍入:舍入不仅看被丢弃的最高位,还需知道后续位是否全零及保留部分最低位,从而区分小于一半、恰好一半和超过一半。
  • 浮点异常须按操作区分:无效运算、除零、上溢、下溢和不精确描述不同情况。
原书依据 · 5 处

7.2 浮点加法运算原理与设计

浮点加法先对齐指数,再加减有效数,之后规格化并舍入。大小接近且符号相反的数相减可能大幅抵消,需要向左移许多位恢复规格形式;指数差很大时则主要处理小数移入与舍入。双路径设计利用两类情形的结构差异并行安排,前导零预测提前估计移位量,纠错逻辑处理估计误差。优化必须最终得到与精度和舍入语义一致的结果。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 5 处

7.3 浮点乘法运算原理与设计

浮点乘法把符号、指数和有效数分别处理:符号组合,指数相加并调整偏置,有效数走乘法和规格化路径,最后共同处理舍入与异常。第6章的部分积压缩因此能用于浮点有效数乘法,但不能替代浮点格式控制。两个极小数相乘的结果还可能下溢为零,原书关于非规格化结果的概括应按最终舍入范围理解。

进一步解释本节具体对象、方案与边界的卡片:

  • 浮点乘法分开算指数:浮点乘法并行处理符号、指数和尾数:指数相加需扣除重复偏置,尾数相乘保留中间精度,再规格化和舍入。
原书依据 · 1 处

7.4 浮点除法/开方运算原理与设计

除法可以逐步产生商,也可先迭代逼近倒数再乘。SRT用冗余商数字简化商选择,基数r决定每轮理想产生log2®位信息,不是r位。在线转换把冗余表示逐步改成最终商。Newton-Raphson和Goldschmidt通过乘法迭代扩大精度,初值、有限精度和末尾校正决定是否达到正确舍入。求倒数平方根再乘回原数可得到平方根,推导中的近似项不能当作精确恒等式。

进一步解释本节具体对象、方案与边界的卡片:

  • 递归除法逐步产生商:数字递归通过部分余数、减法与移位逐步产生商,每次获得固定数量的结果位。
  • SRT基数与选择函数:SRT每轮放大部分余数,选择一个商数字,减去该商与除数的乘积形成下一轮余数。
  • 冗余商数字的取舍:SRT允许正负商数字的冗余集合,使部分余数只需落在某个范围就能选择下一商位,减少选择关键路径对精确值的依赖。
  • 在线转换累积商结果:SRT的带符号冗余商不能直接当普通二进制商使用。
  • 牛顿迭代求倒数:Newton-Raphson把除法转成求倒数再乘被除数。
  • 倒数平方根再求根:开方可先迭代逼近倒数平方根,再乘原数得到平方根。
  • Goldschmidt并行更新:Goldschmidt除法把分子分母同时乘相同因子,让分母趋近一,分子趋近商。
原书依据 · 7 处

本章定位与衔接

浮点章节展示了架构要求与数据通路选择之间的关系。加法的对阶和抵消、乘法的部分积,以及除法的逐位或乘法迭代,各自有不同关键路径。所有路径仍要统一到规格化、舍入和异常处理;不能只看中心算术公式,就认为硬件功能已经完整。

第08章 访存单元设计

访存单元处理的对象会被其他核心和外设观察,因此内部重排必须服从内存模型。先明确访问属性与顺序,再看缓存控制、前递、重试及预取如何兑现这些约束。

8.1 内存模型概述

内存模型规定多个访存操作允许被其他处理单元观察成什么顺序。Normal内存与Device内存有不同属性,设备访问可能具有副作用,不能随意投机或合并。对齐与字节序分别决定地址边界和数值字节布局。原子访问关注不可分割性,一致性约束同一位置的观察,多拷贝可见性关注传播,不应简写为单核对多核。Acquire和Release带有方向性排序约束,独占访问需要检查成功状态,CAS比较失败也不是一定最终抢锁成功。

进一步解释本节具体对象、方案与边界的卡片:

  • 内存顺序约束可见行为:内存模型规定访存结果在架构上允许怎样被观察,不是要求所有内部流水线严格按程序顺序运行。
  • 普通与设备内存:Normal内存可有缓存和共享属性,适合普通代码及数据;Device内存面向外设,访问可能有不可重复的副作用,因此限制投机等行为。
  • 设备属性限制访问变形:设备内存的Gather、Reorder和早期写确认分别决定能否合并、重排及提前确认访问。
  • 对齐与字节序:对齐比较起始地址和访问大小,例如四字节自然对齐要求低两位为零;多元素操作还要区分元素对齐与整个操作对齐。
  • Acquire与Release有方向:Acquire约束其后相关访存不能越过该获取操作,Release约束其前相关访存不能越过该发布操作。
  • 独占访问需要检查成功:Load Exclusive建立监视,Store Exclusive尝试在条件仍满足时写入并报告成败。
  • CAS原子性不等于加锁成功:CAS把读取、比较和条件写入表现为原子的比较交换,只有观察值符合预期才写入。
  • 原子性与多核可见性分开:单拷贝原子性关注一次访问作为不可分割单元被观察,具体保证依赖大小、对齐及指令种类;同地址访问的顺序还涉及一致性规则。
  • 一致性不等于所有地址保序:缓存一致性让对同一位置的写入具有兼容的观察顺序;它不单独决定不同地址的Load和Store能否重排。
原书依据 · 9 处

8.2 数据缓存概述

数据缓存同样以层次结构折中容量、延迟与能耗。低层大容量未必能补救一级命中延迟,特定嵌入式或服务器负载也不应一概套用同样层数。本节替换策略叙述出现把LRU、MRU说成使用次数最少和最多的错误;这应与第2章的新近性定义区分,频率维度属于LFU。笔记保留机制并明确纠正这处矛盾。

进一步解释本节具体对象、方案与边界的卡片:

  • 缓存层次按负载权衡:小容量近核缓存追求短延迟,大容量低层缓存追求容量与单位存储成本,层次结构综合考虑功耗、性能和面积。
  • 替换算法不能混淆频率:LRU依据最近一次使用的时间,MRU剔除最近用过的块;LFU才按访问频率。
原书依据 · 2 处

8.3 数据缓存控制设计

访存单元必须同时管理地址计算、翻译、缓存标签、数据返回和Store等待写出。Load遇到TLB或缓存未命中会保留状态,等资源或数据到达后重试。Store的地址和数据可能分开就绪,汇合后仍要满足提交与内存模型要求。Store到Load前递按字节选择程序顺序上最近的旧写入;若硬件来不及合并多个来源,可以等待或重放,但不能使用年轻Store的数据冒充正确值。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 5 处

8.4 数据缓存预取技术

数据预取从访问地址中训练模式,再经过请求过滤、资源管理与反馈调整距离和数量。连续与固定步长较容易预测,不规则访问则需要更多上下文。预取太近不能覆盖延迟,太远可能在使用前被驱逐;共享竞争还可能放大一致性流量。书中抢锁前预取的负例说明应测量真实负载,而不是把预取看作总能提高性能的开关。

进一步解释本节具体对象、方案与边界的卡片:

  • 预取也会争夺资源:预取提前获取预测需要的块,若地址不准或时机不对,会消耗带宽、替换有用缓存行,甚至在争用共享地址时增加一致性流量。
  • 训练请求反馈三层职责:数据硬件预取可分训练单元、请求单元和事件反馈。
  • 预取距离匹配消费速度:连续或固定步长访问可训练出后续地址,但预取需领先正在执行的访存一定距离,才能覆盖下级延迟。
原书依据 · 3 处

本章定位与衔接

访存把核内乱序与外部共享状态接在一起,除了取到正确数据,还要满足属性、顺序及副作用约束。本章先讲架构层允许什么,再讲LSU如何用缓冲和重试实现它。第9章的提交机制则为哪些结果可以永久生效提供全局边界,不能由缓存命中单独决定。

第09章 重排序缓冲设计

重排序缓冲把乱序执行结果重新接回程序顺序。本章用元数据、提交条件和环形指针示例解释,哪些工作已经完成、哪些可以生效,以及错误时该清除哪一段。

9.1 重排序缓冲的原理

ROB按程序顺序保存尚未提交的动态指令。执行结束只把条目标成完成,提交还要看它是否位于最老的可提交前缀、是否有异常及其他阻断条件。异常先记录在条目中,到了正确边界才确认;误预测则清除错误路径上的年轻工作。这样CPU内部可以乱序探索,却仍能向软件提供符合架构的状态。

进一步解释本节具体对象、方案与边界的卡片:

  • 执行完成不等于提交:指令乱序执行后先标记结果已完成,只有来到程序顺序最前端且无阻断事件时才允许提交。
  • 精确异常延迟到提交确认:执行阶段发现异常时,先把异常记在指令对应的ROB条目里;待它成为最老的提交候选者才按架构规则处理。
  • 分支恢复清除年轻条目:分支解析发现预测错误后,ROB按动态程序顺序保留较老指令,清除错误路径上的年轻指令,并配合重命名等状态恢复重新取指。
原书依据 · 3 处

9.2 重排序缓冲的设计空间

ROB可以保存执行结果,也可以只记录状态而把数值放在独立物理寄存器中。条目可以按指令或按组组织,输入和提交端口数决定峰值流量。较宽的提交口有助于消化短时积压,但队首慢操作仍会阻塞后续;容量增大也要与队列、寄存器及缓存缺失资源匹配。图表中的历史容量不是跨产品永恒规范。

进一步解释本节具体对象、方案与边界的卡片:

  • ROB保存结果还是元数据:重命名到ROB的设计把投机执行结果存放在ROB,提交时复制到架构寄存器;重命名到物理寄存器堆的设计把数值留在物理寄存器,ROB主要追踪状态与顺序。
  • 组提交改变阻塞粒度:ROB可按单条指令或同批指令组分配条目。
  • 提交宽度只是吞吐上限:ROB输入端口限制每周期可接收多少指令,输出端口限制最多可提交多少。
原书依据 · 3 处

9.3 重排序缓冲运行示例

环形ROB用头尾指针分别表示最老条目和下一个分配位置。32项示例用低5位定位,加一位回绕信息区分空与满。分支冲刷可回退尾部并清除年轻条目,提交推进头部。近满反压为尚在流水中的请求预留余量,阈值由反馈延迟和宽度决定;不能认为所有实现都固定留一两项。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 2 处

本章定位与衔接

ROB把前面几个章节串成一套可恢复的生命周期:重命名分配身份,队列选择执行,结果写回并标完成,最后按序提交与回收。所有在途结构都要知道哪些工作被提交或清除。只会增加一个FIFO还不足以实现乱序核,身份、异常与资源释放协议必须一致。

第10章 高性能CPU设计实例:Intel P6微架构

P6是贯通全书的案例。它用微操作、保留站、RAT、ROB和MOB展示完整生命周期。应学习各结构交换什么身份和状态,而不是把某一代CPU的数字当成通用设计定律。

10.1 Intel P6微架构概述

P6实例把IA-32指令转成微操作,再由顺序前端、乱序执行和保序退出协作。指令池让执行部分看到比单条指令更大的窗口,利用等待间隙安排无关工作。这里研究的是经典实现如何落地前文机制,不能把P6的容量、位宽或缓存封装当作现代处理器通用值。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 1 处

10.2 Intel P6微架构的流水线设计

P6的几段解耦流水线能独立推进,又通过微操作和队列衔接。分支恢复时前端可开始正确路径取指,后端仍继续处理合法的较老操作。写回表示投机结果已计算,退出表示架构状态允许永久更新。宏指令可能由多个微操作构成,退出和外部事件必须尊重BOM、EOM标记的宏指令边界。书中31、82、93等是分段图的阶段标号,不能读成整颗CPU有93级流水线。

进一步解释本节具体对象、方案与边界的卡片:

  • 宏指令边界约束退出:一条IA-32宏指令可被拆成多个微操作,BOM与EOM等边界标记让退出逻辑知道它们属于哪条指令。
原书依据 · 1 处

10.3 Intel P6微架构前端设计

P6前端先取得并标记变长指令,再把完整指令引导到一个复杂和两个简单译码器;复杂微操作序列可由微码支持。BTB和分支地址计算为取指提供猜测与纠正。分配器为ROB、保留站和访存缓冲预留资源,RAT把逻辑寄存器映射到动态目的身份。部分寄存器重叠需要维护正确合并关系,x87的FXCH则可通过改映射避免搬动数值。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 9 处

10.4 Intel P6微架构乱序执行引擎设计

P6保留站观察物理源标签和有效性,接收写回广播,并按执行与写回资源选出操作。ROB存放投机结果,真实寄存器堆保留提交结果,操作数可来自二者或旁路总线。以229加522得到751、再减414得到337的例子,可逐步跟踪生产者身份变化。图中的42、57是讲解用标签,不能与本节40项ROB的真实下标混用;ADD更新EAX,EBX的更新属于它更老的生产者。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 5 处

10.5 Intel P6微架构内存子系统设计

P6的MOB保存Load与Store相关状态。Store拆成STA和STD使地址与数据独立准备,使用同一缓冲身份汇合;退出后再按规则写出。Load记录较老Store的着色边界,先用地址低位快速筛冲突,再用物理地址确认;低位相同可能误判,导致额外等待。不能完成的Load用阻塞类型和资源ID睡眠唤醒。TLB未命中先触发页表遍历,真正缺页或权限错误才进入异常处理。

进一步解释本节具体对象、方案与边界的卡片:

原书依据 · 6 处

本章定位与衔接

最后一章的作用是验证模块之间的接口是否自洽:一个动态生产者如何从译码获得身份,结果如何唤醒消费者,异常怎样延迟确认,Store何时允许离开。它没有另起一套互不相干的理论,而是把第2至9章中的选择组合成经典商用实现。阅读时可沿同一条微操作链反查所有部件。

跨章综合

名字、身份和数值必须分开。 架构寄存器名是软件接口,物理标签标识一次动态生产,数值则可能尚未产生。RAT改名不等于执行完成,结果广播也不等于允许提交。用这三个层次追踪同一个操作,可以同时理解重命名、队列唤醒、旁路和ROB。

所有提前执行都带有未决条件。 分支预测依赖真实方向核验,预取依赖未来是否使用,Load调度可能假定缓存命中。设计要记录每项假设,规定失败时哪些状态可保留、哪些需重做;否则局部吞吐量提升可能破坏正确性。

扩大窗口只缓解某些等待。 更多ROB、寄存器和队列条目提供更多候选,但真实依赖、提交队首、内存带宽与旁路时序仍会限制进展。性能评估应沿完整生命周期寻找阻塞,而不是只看一个容量参数。

提交与内存可见性相关但不同。 Store提交意味着它可以按协议成为非投机操作,实际写出和其他核的观察还受缓冲、缓存一致性及内存模型制约。不能把“已完成运算”“已退出”和“所有核心都看见”当作同一时刻。

原书表述与适用边界

本笔记保留书中机制,同时在生成时处理已发现的矛盾。ARM节区分AArch32与AArch64,RISC-V预测规则按软件布局建议理解;减法使用补码而非把负数重复加一;LRU/MRU按新近性而非频率解释;浮点异常和下溢按具体操作判断;SRT基数与每轮位数分开;内存原子性、一致性与传播顺序分开;P6标签、宏指令边界及图中流水标号限定在实例语境。

外部核验入口(访问日期2026-11-13):Arm AAPCS64确认AArch64链接寄存器;RISC-V非特权规范区分预测建议与指令语义;Arm内存模型说明用于区分Other-multi-copy可见性和普通原子访问;SoftFloat除法实现用于核对零除零与有限非零除零的不同分支。这些补充不冒充原书摘录。

发散与实践:读者延伸

两项计划从已有成熟实现入手。第一项沿BOOM的映射、空闲表和ROB追踪分配、提交回收及误预测恢复;第二项对照gem5中的LRU、MRU与LFU,辨认状态更新和牺牲者选择。生成阶段已核验项目提交、下载并读取相关入口,留下初步映射;尚未运行仿真或完成后续实验,不能据此声称验证了性能。

  • BOOM重命名与恢复:ideas/idea-001-BOOM重命名与恢复.md
  • gem5替换策略对照:ideas/idea-002-gem5替换策略对照.md
生成进度与管理记录

高性能超标量CPU:微架构剖析与设计

Skill 版本:v24

执行模式:light

建档进度:done

优先级:P1

信息浓度:高

知识稳定性:高

评级:经典原理

评级理由:全文以缓存组织、分支预测、重命名、调度、运算及精确提交的机制和权衡为主,具有可迁移性;P6与其他产品的容量、接口和历史数字仅限原实现,使用时需核对版本。

整书笔记:_book_note.md

阅读与生成:序、前言及10章全部图文已读,61个实质spine项;4项非正文另列。知识卡193张,实践计划2张。

执行说明:轻量模式,未执行笔记复核、独立审查及审查结果优化。生成当下仍核对原文摘录、来源字节哈希、链接和已发现的准确性问题。实践交付为计划及首轮源码映射,未运行仿真。

章节进度追踪表

章节号 章节标题 状态(pending/done) 卡片数
序 序 done 0
前言 前言 done 0
01 CPU架构与流水线技术概述 done 26
02 CPU前端与指令缓存设计 done 37
03 分支预测单元设计 done 24
04 寄存器重命名单元设计 done 16
05 发射队列设计 done 10
06 执行单元设计 done 13
07 浮点运算单元设计 done 18
08 访存单元设计 done 19
09 重排序缓冲设计 done 8
10 高性能CPU设计实例:Intel P6微架构 done 22

非正文排除

spine项 类型 排除理由
000 作者简介图 已查看,履历背景,无本书新增技术论证
062 推荐语图 已查看,评价与推荐,无新增机制
063 版权页 已读并用于出版元数据,不生成技术卡
064 封面图 已查看核对书名与作者,无独立论证

待关联术语

术语名 出现章节 一句话语境
DDR 1 片上系统接口举例,非本书核设计主体
PCIe 1 片上系统接口举例,非本书核设计主体
卷积神经网络 3 本节提名作相关预测研究或模型,未展开该对象内部机制
深度置信网络 3 本节提名作相关预测研究或模型,未展开该对象内部机制
GShare 3 本节提名作相关预测研究或模型,未展开该对象内部机制
PPM 3 本节提名作相关预测研究或模型,未展开该对象内部机制
机器学习 3 展望预测器优化手段,未给出通用训练方法

引用文献

标题 类型(书/论文/框架/源码项目) 出现章节 一句话语境
Computer Organization and Design: The Hardware/Software Interface 书 前言 作者列为基础课程阅读
Computer Architecture: A Quantitative Approach 书 前言 作者列为进阶参考
Parallel Computer Organization and Design 书 前言 作者比较经典教材与工程设计的关系
The Pentium II/III Processor “Compiler on a Chip” 论文 10 本章ADD/SUB示例的引用来源
DUBOIS M, ANNAVARAM M, STENSTRöM P. Parallel computer organization and design [M]. Cambridge: Cambridge University Press, 2012. 书 2 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
JAIN A, LIN C. Cache replacement policies [M]. Williston: Morgan & Claypool Publishers series, 2019. 书 2 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
FALSAFI B, WENISCH TF. A primer on hardware prefetching [M]. Williston: Morgan & Claypool Publishers series, 2014. 书 2 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
KOTRA JB, KALAMATIANOS J. Improving the utilization of micro-operation caches in x86 processors [C]. In 2020 53rd Annual IEEE/ACM International Symposium on Microarchitecture (MICRO), 2020. 论文 2 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SEZNEC A, MICHAUD P. A case for (partially) TAgged GEometric history length branch prediction [J]. The Journal of Instruction-Level Parallelism, 2006. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
YEH TY, PATT YN. A comparison of dynamic branch predictors that use two levels of branch history [C]. In Proceedings of the 20th annual international symposium on computer architecture, 1993. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SEZNEC A. Tage-sc-l branch predictors [C]. In JILP-Championship Branch Prediction, 2014. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
JIMÉNEZ DA, LIN C. Dynamic branch prediction with perceptrons [C]. In Proceedings HPCA Seventh International Symposium on High-Performance Computer Architecture, 2001. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
MAO Y, ZHOU H, GUI X, et al. Exploring convolution neural network for branch prediction [J]. IEEE Access, 2020. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
WANG G, HU X, ZHU Y, et al. Self-Aligning Return Address Stack [C]. In 2012 IEEE Seventh International Conference on Networking, Architecture, and Storage, 2012. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SHERWOOD T, CALDER B. Loop termination prediction [C]. In International Symposium on High Performance Computing, 2000. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SEZNEC A. A 64-Kbytes ITTAGE indirect branch predictor [C]. In JWAC-2: Championship Branch Prediction, 2011. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
PANIRWALA CD. Exploring Correlation for Indirect Branch Prediction [C]. Orlando, Florida: The 2nd JILP Championship Branch Prediction Competition (CBP-2), 2006. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
GARZA E, MIRBAGHER-AJORPAZ S, KHAN TA, et al. Bit-level perceptron prediction for indirect branches [C]. In 2019 ACM/IEEE 46th Annual International Symposium on Computer Architecture (ISCA), 2019. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
REINMAN G, CALDER B, AUSTIN T. Optimizations enabled by a decoupled front-end architecture [J]. IEEE Transactions on Computers, 2001. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SOUNDARARAJAN NK, BRAUN P, KHAN TA, et al. Pdede: Partitioned, deduplicated, delta branch target buffer [C]. In MICRO-54: 54th Annual IEEE/ACM International Symposium on Microarchitecture, 2021. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
KHAN TA, BROWN N, SRIRAMAN A, et al. Twig: Profile-guided BTB prefetching for data center applications [C]. In MICRO-54: 54th Annual IEEE/ACM International Symposium on Microarchitecture, 2021. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
EYERMAN S, Heirman W, VAN DEN STEEN S, et al. Enabling Branch-Mispredict Level Parallelism by Selectively Flushing Instructions [C]. In MICRO-54: 54th Annual IEEE/ACM International Symposium on Microarchitecture, 2021. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
PRUETT S, PATT Y. Branch Runahead: An Alternative to Branch Prediction for Impossible to Predict Branches [C]. In MICRO-54: 54th Annual IEEE/ACM International Symposium on Microarchitecture, 2021. 论文 3 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
LANG T, BRUGUERA JD. Floating-point multiply-add-fused with reduced latency [J]. IEEE Transactions on Computers, 2004. 论文 7 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SCHULTE MJ, OMAR J, SWARTZLANDER EE. Optimal initial approximations for the Newton-Raphson division algorithm [J]. Computing, 1994. 论文 7 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
GWENNAP L. Intel’s P6 uses decoupled superscalar design [J]. Microprocessor Report, 1995. 论文 10 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容
SHEN JP, LIPASTI MH. Modern processor design: fundamentals of superscalar processors [M]. Long Grove: Waveland Press, 2013. 书 10 原文脚注引用;具体机制已按所在节保留,未介绍该文献整体内容

资金安全问题案例

问题标题 问题卡 解决方案卡(如有) 出现章节 一句话说明

本书未出现符合专项规则的支付、余额、库存等资金安全案例;普通CPU内存竞态按体系结构概念保留。

实践卡进度

序号 实践标题 实践方式 状态(pending/done) 关联章节 产出
001 BOOM重命名与恢复 实现深读 done 4、9、10 计划,已核验固定提交与三份源码的首轮映射
002 gem5替换策略对照 实现深读 done 2、8 计划,已核验固定提交与三策略源码比较

实践候选筛选:done

采用以上两项,分别加深身份生命周期与缓存替换理解。暂不采用完整CPU实现(超出理解目标且工程范围过大)、硬件性能跑分(缺可比目标环境)、分支预测器竞赛实现(与本轮深读范围重叠且需要额外评测基线)。未将书中性能概括写成实测结果。

相关主题

从本书的主题进入跨书阅读,对照其他书籍的讲解。下方数量包含主题关联的全部卡片与书籍。

暂无公开主题。