定时任务的扫描成本
调用方为每个 [[Future决定等待位置]] 安排超时检测时,任务量会随在途请求增长。两种直接做法各有代价:
| 做法 | 主要代价 |
|---|---|
| 每个任务占一个休眠线程 | 大量线程及其资源开销 |
| 单线程按固定间隔扫描全部任务 | 尚未到期的任务被反复检查 |
时钟轮按到期时间把任务放入槽位,推进时只取当前槽中的任务,可减少对远期任务的重复扫描。这是调度结构上的比较,不代表任何负载下都更快;实际成本还包括入槽、取消和执行任务。
主题对照
比较扫描、时间槽与分层时钟轮的调度成本,及截止时间校验和周期任务重排的边界。
调用方为每个 [[Future决定等待位置]] 安排超时检测时,任务量会随在途请求增长。两种直接做法各有代价:
| 做法 | 主要代价 |
|---|---|
| 每个任务占一个休眠线程 | 大量线程及其资源开销 |
| 单线程按固定间隔扫描全部任务 | 尚未到期的任务被反复检查 |
时钟轮按到期时间把任务放入槽位,推进时只取当前槽中的任务,可减少对远期任务的重复扫描。这是调度结构上的比较,不代表任何负载下都更快;实际成本还包括入槽、取消和执行任务。
时钟轮是按固定时间推进的槽位环。任务先按距到期时间放入对应槽;每次推进只处理当前槽。长延时任务可以先放到上层较粗的轮;下层转完一圈时,把上层当前槽的任务重新分配到下层。
原书示例用下层 10 槽、每槽 100 毫秒,所以下层一圈是 1 秒;上层每槽 1 秒。延时 1.61 秒的任务先入上层,再在约 1 秒时落入下层。图示说明分层路径,实际到期判定另见 [[到期校验防止提前超时]]。
结构图:
flowchart TD
A[按延时接收任务] --> B{落在下层一圈内?}
B -->|是| C[放入下层槽]
B -->|否| D[放入上层槽]
D --> E[下层转满一圈]
E --> F[上层当前槽任务下放]
F --> C
C --> G[下层推进到目标槽]
时钟轮的槽位是时间桶,落入某槽不等于已到精确截止时间。原书教学示例把延时 90 毫秒的 A 放入当前槽并立即执行,也把延时 610 毫秒的 B 在 600 毫秒执行;两者都早于设定时间。
用于 RPC 超时时,若提前执行会把仍有时间返回的请求误判为超时。因此实现上需在取出任务时核对真实截止时刻:尚未到期则安排到后续槽,或入槽时向上取整到不早于截止时刻的刻度。这个修正是从原书示例推导的设计要求;到期之后的实际执行仍可能因调度或任务拥塞而延迟。
时钟轮中一次性任务执行后会移除。定期心跳可以把每次发送看作一个任务,执行结束再计算下一次时间并重新入轮,形成周期调度。请求超时和启动超时则通常只需一次到期处理。
重新入轮前仍需判断连接或调用方是否已关闭;这是根据心跳用途作出的实现推断,防止停用后的心跳继续排队。下一次按“本次完成时间”还是“原计划时间”计算,也会影响长期节拍,原书未规定。
调度包含优先级分配和何时把资源派给任务。FIFO简单但长任务会挡后续;固定语义或周期优先级利于关键任务,却可能饿死低优先级;动态最早截止或最少松弛根据剩余时限调整;静态循环表把顺序离线确定,减少运行开销。截止期最优结论有单处理器、可抢占等前提,不能推广到任意多核工作负载。
SessionTracker把到期时刻相近的会话归到同一时间桶,检查线程按桶处理过期项。收到有效请求后把会话移到新的桶,旧桶剩余者到期清理,减少每次遍历所有会话的成本。桶粒度也意味着实际清理时间不等于精确到每毫秒。
原书示例把当前时间加会话超时后,按检查间隔向下一桶边界归整。若当前为1370907000000毫秒、超时15000、桶间隔2000,则原始期限1370907015000归到1370907016000;此处的额外等待来自分桶粒度,不是客户端又成功续了一次租。
操作系统优先级可使重要任务优先获得调度,但增加模型复杂性并可能引入优先级倒置。能够避免显式赋值时先避免;确需使用时保持规则简单,通过分析和原型检查,不把优先级数值当作吞吐或完成顺序的完整保障。
Nginx 自己维护定时器事件,并用红黑树按超时时间组织节点,快速找到最近到期事件。它延续了 [[红黑树守住检索]] 的稳定复杂度价值。发散:时间也是一种需要索引的资源。
定时任务(作业)和消息中间件在部分场景下可以互相替代(比如用极短间隔的定时任务轮询队列表,效果类似消息推送),但消息中间件的推送模式实时性更好、基于文件顺序追加的消息存储吞吐量也远高于基于数据库的队列表,所以能替代时通常优先选消息中间件。但两者在四个维度上存在不可替代的边界,判断该用哪个应该沿着这四个维度逐一检查:一是时间驱动还是事件驱动——内部系统一般能靠事件触发,但涉及外部系统时(比如抓取第三方网站价格),对方根本不会给你发事件,只能靠定时轮询这种时间驱动的方式;二是批量处理还是逐条处理——有些业务逻辑天生只能批量算(比如电商公司和快递公司按月结算、按月度总量计算阶梯提成),逐条处理消息中间件模型根本无法表达这种”按周期聚合后一次性计算”的语义;三是非实时还是实时——有些业务需求虽然可以做成实时触发,但业务上根本不需要(比如VIP用户超过一年无购买自动降级),用重量级的实时消息机制去处理一个本质上”什么时候执行都无所谓”的需求是过度设计;四是系统内部还是系统间解耦——作业通常封装在单个系统内部自行调度,而消息中间件的核心价值之一正是解耦不同系统之间的依赖,如果目的是让两个独立系统互不感知彼此存在,作业模型天然不适合。
简单异步场景不一定需要完整消息队列,后台任务系统可用任务、队列、执行器和定时器完成延后处理,再回调目标服务。发散:架构选型要匹配问题规模,小任务系统能解决的事,不必提前引入重型基础设施。
分布式任务调度把定时任务从单个应用实例中抽离出来,统一处理触发、分片、重试和执行状态。它解决的是多实例部署下“谁来跑、跑几次、失败怎么办”。发散:定时任务一旦影响业务状态,就不应只靠机器上的 cron。
延迟消息先由 Broker 接收,再推迟到指定时段后交付处理。它适合“过一段时间再触发”的任务,但延迟精度和可选时段是产品版本的约束;本书所列固定等级仅属于当时实现,部署时须核对所用版本。
选举超时是一次性任务,日志复制心跳是周期任务。通过 Scheduler 接口创建并返回可取消的任务,测试可替换实现来触发时间事件,而无需真实等待。取消与新建的组合也让角色切换时的时间语义更清晰。
上下文分析除用户、外部系统和持久化设施,还要找出“时间到则执行”的触发。时钟参与者有助于识别定时任务的入口与调度职责;最终计时机制可能在系统内部,不应因图上画成参与者就把它误认为独立外部系统,也不必每次另建一层。
scheduleAtFixedRate 以计划中的连续启动时点计算周期;scheduleWithFixedDelay 从上一次执行完成后再等待指定时长。若任务比周期更久,固定频率不会让同一个周期任务并发重叠,但后续执行可能延迟;固定延迟则把执行耗时计入两次启动间距。选择时先明确需要贴近时钟还是保留执行后的间隔。
点击箭头逐层展开,点击卡片标题查看详情。路径上下文仅用于连接层级,不计入主题卡片数。
来源书籍
系统架构类
书籍类型:工程实践
清单覆盖 5/7
97 张卡片
来源书籍
编程语言类
书籍类型:经典原理
类别清单尚未核对
191 张卡片
来源书籍
源码分享类
书籍类型:工程实践
清单覆盖 8/8
76 张卡片
来源书籍
书籍类型:经典原理
312 张卡片
来源书籍
书籍类型:经典原理
310 张卡片
来源书籍
分布式系统类
书籍类型:工程实践
清单覆盖 4/7
89 张卡片
来源书籍
书籍类型:速查手册
39 张卡片
来源书籍
书籍类型:工程实践
41 张卡片
来源书籍
源码分享类
书籍类型:工程实践
清单覆盖 8/8
242 张卡片
来源书籍
软件架构方法论类
书籍类型:经典原理
类别清单尚未核对
125 张卡片
来源书籍
软件架构方法论类
书籍类型:未标注
类别清单尚未核对
334 张卡片
来源书籍
系统架构类
书籍类型:工程实践
清单覆盖 7/7
424 张卡片
主题索引
比较字符串、数组、切片、哈希表等内置结构的内存布局、扩容与复制代价。
与 2 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;共享 1 个其他主题;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类