知识卡片
启动预热逐步增加权重
启动预热让新实例先承接较少请求,再逐步提升到正常份额。调用方从服务发现取得实例及其启动或注册时间,在负载均衡时按运行时长降低新实例的有效权重;预热期结束后回到配置权重。这里调整的是被选中的概率,须结合[[权重决定长期抽样比例]]理解,不能保证每个短时窗口的请求量精确递增。原书图中的“每次加 10%”只是示意,预热时长、步幅和起始权重需按服务容量决定。
结构图:
flowchart TD
A[发现实例及时间] --> B{处于预热期}
B -->|是| C[下调有效权重]
C --> D[以较低概率参与选择]
D --> E[随运行时间提高权重]
E --> B
B -->|否| F[按配置权重参与选择]
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《115-RPC实战与核心原理》第15章《14|优雅启动:如何避免流量打到没有启动完成的节点?》(源文件:`_epub-src/OEBPS/Text/15.html`)
- 结论依据:原文定义启动预热为新实例调用次数随时间增加,并说明调用方可获得实例启动或注册时间,在负载均衡中动态提高权重;图给出按定时触发逐步加权的示意。
- 原始内容:不管你是选择哪个时间,最终的结果就是,调用方通过服务发现,除了可以拿到 IP 列表,还可以拿到对应的启动时间。我们需要把这个时间作用在负载均衡上,在 [第 11 讲] 我们介绍过一种基于权重的负载均衡,但是这个权重是由服务提供方设置的,属于一个固定状态。