主题对照

定时任务与时钟轮调度

比较扫描、时间槽与分层时钟轮的调度成本,及截止时间校验和周期任务重排的边界。

16 张卡片 · 12 本书

本层 16 张卡片 · 含下级覆盖 16 张卡片

本主题的卡片

115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用

定时任务的扫描成本

调用方为每个 [[Future决定等待位置]] 安排超时检测时,任务量会随在途请求增长。两种直接做法各有代价:

做法 主要代价
每个任务占一个休眠线程 大量线程及其资源开销
单线程按固定间隔扫描全部任务 尚未到期的任务被反复检查

时钟轮按到期时间把任务放入槽位,推进时只取当前槽中的任务,可减少对远期任务的重复扫描。这是调度结构上的比较,不代表任何负载下都更快;实际成本还包括入槽、取消和执行任务。

查看卡片与原书出处

115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用

分层时钟轮分配任务

时钟轮是按固定时间推进的槽位环。任务先按距到期时间放入对应槽;每次推进只处理当前槽。长延时任务可以先放到上层较粗的轮;下层转完一圈时,把上层当前槽的任务重新分配到下层。

原书示例用下层 10 槽、每槽 100 毫秒,所以下层一圈是 1 秒;上层每槽 1 秒。延时 1.61 秒的任务先入上层,再在约 1 秒时落入下层。图示说明分层路径,实际到期判定另见 [[到期校验防止提前超时]]。

结构图:

flowchart TD
    A[按延时接收任务] --> B{落在下层一圈内?}
    B -->|是| C[放入下层槽]
    B -->|否| D[放入上层槽]
    D --> E[下层转满一圈]
    E --> F[上层当前槽任务下放]
    F --> C
    C --> G[下层推进到目标槽]
查看卡片与原书出处

115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用

到期校验防止提前超时

时钟轮的槽位是时间桶,落入某槽不等于已到精确截止时间。原书教学示例把延时 90 毫秒的 A 放入当前槽并立即执行,也把延时 610 毫秒的 B 在 600 毫秒执行;两者都早于设定时间。

用于 RPC 超时时,若提前执行会把仍有时间返回的请求误判为超时。因此实现上需在取出任务时核对真实截止时刻:尚未到期则安排到后续槽,或入槽时向上取整到不早于截止时刻的刻度。这个修正是从原书示例推导的设计要求;到期之后的实际执行仍可能因调度或任务拥塞而延迟。

查看卡片与原书出处

115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用

周期心跳重新入轮

时钟轮中一次性任务执行后会移除。定期心跳可以把每次发送看作一个任务,执行结束再计算下一次时间并重新入轮,形成周期调度。请求超时和启动超时则通常只需一次到期处理。

重新入轮前仍需判断连接或调用方是否已关闭;这是根据心跳用途作出的实现推断,防止停用后的心跳继续排队。下一次按“本次完成时间”还是“原计划时间”计算,也会影响长期节拍,原书未规定。

查看卡片与原书出处

Software Architecture in Practice, 4th Edition · 性能

调度结合优先级与抢占

调度包含优先级分配和何时把资源派给任务。FIFO简单但长任务会挡后续;固定语义或周期优先级利于关键任务,却可能饿死低优先级;动态最早截止或最少松弛根据剩余时限调整;静态循环表把顺序离线确定,减少运行开销。截止期最优结论有单处理器、可抢占等前提,不能推广到任意多核工作负载。

查看卡片与原书出处

从Paxos到Zookeeper:分布式一致性原理与实践 · 技术内幕:系统模型与客户端

时间分桶批量检查过期

SessionTracker把到期时刻相近的会话归到同一时间桶,检查线程按桶处理过期项。收到有效请求后把会话移到新的桶,旧桶剩余者到期清理,减少每次遍历所有会话的成本。桶粒度也意味着实际清理时间不等于精确到每毫秒。

查看卡片与原书出处

从Paxos到Zookeeper:分布式一致性原理与实践 · 技术内幕:系统模型与客户端

超时时刻向桶边界归整

原书示例把当前时间加会话超时后,按检查间隔向下一桶边界归整。若当前为1370907000000毫秒、超时15000、桶间隔2000,则原始期限1370907015000归到1370907016000;此处的额外等待来自分桶粒度,不是客户端又成功续了一次租。

查看卡片与原书出处

软件系统架构:使用视点和视角与利益相关者合作(原书第2版) · 并发视点

任务优先级需要简化并验证

操作系统优先级可使重要任务优先获得调度,但增加模型复杂性并可能引入优先级倒置。能够避免显式赋值时先避免;确需使用时保持规则简单,通过分析和原型检查,不把优先级数值当作吞吐或完成顺序的完整保障。

查看卡片与原书出处

深入理解Nginx:模块开发与架构解析(第2版) (LinuxUnix技术丛书) · 事件模块

定时器用红黑树

Nginx 自己维护定时器事件,并用红黑树按超时时间组织节点,快速找到最近到期事件。它延续了 [[红黑树守住检索]] 的稳定复杂度价值。发散:时间也是一种需要索引的资源。

查看卡片与原书出处

高可用架构(第1卷) · 高可用架构原理与分布式实践

定时任务与消息选型

定时任务(作业)和消息中间件在部分场景下可以互相替代(比如用极短间隔的定时任务轮询队列表,效果类似消息推送),但消息中间件的推送模式实时性更好、基于文件顺序追加的消息存储吞吐量也远高于基于数据库的队列表,所以能替代时通常优先选消息中间件。但两者在四个维度上存在不可替代的边界,判断该用哪个应该沿着这四个维度逐一检查:一是时间驱动还是事件驱动——内部系统一般能靠事件触发,但涉及外部系统时(比如抓取第三方网站价格),对方根本不会给你发事件,只能靠定时轮询这种时间驱动的方式;二是批量处理还是逐条处理——有些业务逻辑天生只能批量算(比如电商公司和快递公司按月结算、按月度总量计算阶梯提成),逐条处理消息中间件模型根本无法表达这种”按周期聚合后一次性计算”的语义;三是非实时还是实时——有些业务需求虽然可以做成实时触发,但业务上根本不需要(比如VIP用户超过一年无购买自动降级),用重量级的实时消息机制去处理一个本质上”什么时候执行都无所谓”的需求是过度设计;四是系统内部还是系统间解耦——作业通常封装在单个系统内部自行调度,而消息中间件的核心价值之一正是解耦不同系统之间的依赖,如果目的是让两个独立系统互不感知彼此存在,作业模型天然不适合。

查看卡片与原书出处

微服务架构与实践 · 微服务与轻量级通信机制

轻量异步任务

简单异步场景不一定需要完整消息队列,后台任务系统可用任务、队列、执行器和定时器完成延后处理,再回调目标服务。发散:架构选型要匹配问题规模,小任务系统能解决的事,不必提前引入重型基础设施。

查看卡片与原书出处

基于Kotlin的Spring Boot微服务实战 · Kotlin应用于Spring Cloud Alibaba

任务调度集中化

分布式任务调度把定时任务从单个应用实例中抽离出来,统一处理触发、分片、重试和执行状态。它解决的是多实例部署下“谁来跑、跑几次、失败怎么办”。发散:定时任务一旦影响业务状态,就不应只靠机器上的 cron。

查看卡片与原书出处

RocketMQ实战与原理解析 (云栖社区系列) · 发送延迟消息

延迟消息推后生效

延迟消息先由 Broker 接收,再推迟到指定时段后交付处理。它适合“过一段时间再触发”的任务,但延迟精度和可选时段是产品版本的约束;本书所列固定等级仅属于当时实现,部署时须核对所用版本。

查看卡片与原书出处

分布式一致性算法开发实战 · 4.2 定时器组件

定时器接口便于控制测试时间

选举超时是一次性任务,日志复制心跳是周期任务。通过 Scheduler 接口创建并返回可取消的任务,测试可替换实现来触发时间事件,而无需真实等待。取消与新建的组合也让角色切换时的时间语义更清晰。

查看卡片与原书出处

软件架构设计:程序员向架构师转型必备 · 如何分层

时限触发需要明确调度职责

上下文分析除用户、外部系统和持久化设施,还要找出“时间到则执行”的触发。时钟参与者有助于识别定时任务的入口与调度职责;最终计时机制可能在系统内部,不应因图上画成参与者就把它误认为独立外部系统,也不必每次另建一层。

查看卡片与原书出处

Java高并发核心编程.卷2,多线程、锁、JMM、JUC、高并发设计模式 · Executors的4种快捷创建线程池的方法

固定频率与固定延迟起点不同

scheduleAtFixedRate 以计划中的连续启动时点计算周期;scheduleWithFixedDelay 从上一次执行完成后再等待指定时长。若任务比周期更久,固定频率不会让同一个周期任务并发重叠,但后续执行可能延迟;固定延迟则把执行耗时计入两次启动间距。选择时先明确需要贴近时钟还是保留执行后的间隔。

查看卡片与原书出处
辅助阅读:卢曼编号

按卢曼编号阅读

点击箭头逐层展开,点击卡片标题查看详情。路径上下文仅用于连接层级,不计入主题卡片数。

  • 展开或收起下级: 396 路径上下文 · 卡片缺失
    • 展开或收起下级: 396.a 路径上下文 · 卡片缺失
      • 展开或收起下级: 396.a.1 路径上下文 · 卡片缺失
        • 展开或收起下级: 396.a.1.c RPC请求响应闭环 路径上下文 115-RPC实战与核心原理 · 01|核心原理:能否画张图解释下RPC的通信流程? 理解等级:中级
          • 展开或收起下级: 396.a.1.c.1 消息ID关联请求响应 路径上下文 115-RPC实战与核心原理 · 答疑课堂|基础篇与进阶篇思考题答案合集 理解等级:中级
            • 展开或收起下级: 396.a.1.c.1.a Future决定等待位置 路径上下文 115-RPC实战与核心原理 · 17|异步RPC:压榨单机吞吐量 理解等级:中级
              • 展开或收起下级: 396.a.1.c.1.a.2 定时任务的扫描成本 主题成员 115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用 理解等级:中级
                • 展开或收起下级: 396.a.1.c.1.a.2.a 分层时钟轮分配任务 主题成员 115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用 理解等级:中级
                  • 396.a.1.c.1.a.2.a.1 到期校验防止提前超时 主题成员 115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用 理解等级:高级
                  • 396.a.1.c.1.a.2.a.2 周期心跳重新入轮 主题成员 115-RPC实战与核心原理 · 20|详解时钟轮在RPC中的应用 理解等级:中级
  • 展开或收起下级: 2046 静态与动态结构 路径上下文 软件系统架构:使用视点和视角与利益相关者合作(原书第2版) · 软件架构概念 理解等级:未标注
    • 展开或收起下级: 2046.c 并发视图映射执行与状态 路径上下文 软件系统架构:使用视点和视角与利益相关者合作(原书第2版) · 并发视点 理解等级:中级
      • 2046.c.6 任务优先级需要简化并验证 主题成员 软件系统架构:使用视点和视角与利益相关者合作(原书第2版) · 并发视点 理解等级:中级
  • 展开或收起下级: 2324 三层架构职责与调用 路径上下文 软件架构设计:程序员向架构师转型必备 · 如何分层 理解等级:未标注
    • 展开或收起下级: 2324.d 由上下文图定分层 路径上下文 软件架构设计:程序员向架构师转型必备 · 如何分层 理解等级:未标注
  • 展开或收起下级: 3189 Executor分离提交与执行 路径上下文 Java高并发核心编程.卷2,多线程、锁、JMM、JUC、高并发设计模式 · JUC的线程池架构 理解等级:中级
    • 3189.a 固定频率与固定延迟起点不同 主题成员 Java高并发核心编程.卷2,多线程、锁、JMM、JUC、高并发设计模式 · Executors的4种快捷创建线程池的方法 理解等级:中级
  • 展开或收起下级: 3571 事件框架三件事 路径上下文 深入理解Nginx:模块开发与架构解析(第2版) (LinuxUnix技术丛书) · 事件处理框架概述 理解等级:未标注
    • 3571.b 定时器用红黑树 主题成员 深入理解Nginx:模块开发与架构解析(第2版) (LinuxUnix技术丛书) · 事件模块 理解等级:未标注
  • 展开或收起下级: 3585 协议论文不替代工程设计 路径上下文 分布式一致性算法开发实战 · 前言 理解等级:高级
  • 4080 定时任务与消息选型 主题成员 高可用架构(第1卷) · 高可用架构原理与分布式实践 理解等级:高级
  • 5022 时间分桶批量检查过期 主题成员 从Paxos到Zookeeper:分布式一致性原理与实践 · 技术内幕:系统模型与客户端 理解等级:中级
  • 5023 超时时刻向桶边界归整 主题成员 从Paxos到Zookeeper:分布式一致性原理与实践 · 技术内幕:系统模型与客户端 理解等级:中级
  • 5413 调度结合优先级与抢占 主题成员 Software Architecture in Practice, 4th Edition · 性能 理解等级:高级

未编号或编号待整理

  • 轻量异步任务 理解等级:未标注

    微服务架构与实践 · 微服务与轻量级通信机制

  • 任务调度集中化 理解等级:未标注

    基于Kotlin的Spring Boot微服务实战 · Kotlin应用于Spring Cloud Alibaba

  • 延迟消息推后生效 理解等级:初级

    RocketMQ实战与原理解析 (云栖社区系列) · 发送延迟消息

来源书籍

主题索引

内置数据结构的底层实现

比较字符串、数组、切片、哈希表等内置结构的内存布局、扩容与复制代价。

74 张卡片 · 10 本书