知识卡片
用执行器负载判断过载
任务自身的过载保护基于资源利用率,多为 CPU 用量除以预留量,有时也看内存;利用率上升时按请求重要性逐级拒绝,越重要阈值越高。信号只用本地信息计算,一个有效的是执行器负载均值:统计正在运行或等待 CPU 的活跃线程数,用指数衰减平滑,超过分配的 CPU 数就开始拒绝。突发的大批短请求会被平滑掉,只有持续高负载才触发拒绝。发散:平滑窗口决定了对突发的容忍度。参见[[请求重要性分级决定过载时舍弃谁]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第21章 应对过载 · 查看原书依据
一个比较有用的信号是基于进程的“负载”,这是通过一个所谓的执行器负载均值(executor load average)决定的。 要计算执行器负载均值,我们要统计整个进程中的活跃线程数。在这里,“活跃”指那些正在运行,或者已经准备好运行,但是正在等待空闲CPU的线程。我们同时利用指数性衰变算法(exponential decay)来平滑这个值,当活跃线程数量超过该任务分配的CPU数量时开始拒绝请求。这意味着,当某个请求展开成非常大量的请求时(例如,某个请求被展开成突发性的大批短时请求),会导致负载值急剧上升,但是这个平滑过程基本上会将这个突发情况处理掉。
参考来源
- 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`)
- 结论依据:原文说明以利用率为基础按重要性分级拒绝,并介绍执行器负载均值的计算方式与指数衰减平滑的作用。
- 原始内容:要计算执行器负载均值,我们要统计整个进程中的活跃线程数。在这里,“活跃”指那些正在运行,或者已经准备好运行,但是正在等待空闲CPU的线程。