知识卡片

普通读书笔记卡 · 5216.d.2

最闲轮询要防地漏效应

理解等级:高级

最闲轮询只在活跃请求最少的后端中轮询,依据是负载高的任务延迟也高。最大的坑是地漏效应:不健康的任务报错比正常处理快得多,活跃请求数很低,反而吸走大量请求;解法是把最近的错误也计为活跃请求。它还有两个限制:活跃请求数不代表容量,多数请求在等网络,两倍性能的机器延迟却相近;客户端只看得到自己发出的请求。大型服务上最忙任务 CPU 仍可达最闲的 2 倍。发散:快速失败会伪装成空闲。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第20章 数据中心内部的负载均衡系统 · 查看原书依据

      但是尽管这样,我们还是踩到了最闲轮询策略的最危险的一个坑:如果一个任务目前不健康,它可能会开始返回100%的错误。取决于错误的类型,错误回复可能延迟非常低;一般来说返回一个“我不健康”的错误比实际处理请求要快得多。于是,客户端任务错误地认为该任务可用,从而给该异常任务分配了大量的请求。我们在这里将这种问题称之为地漏效应(sinkhole effect)。幸运的是,这个问题有一个相对简单的解决办法—将最近收到的错误信息计算为活跃请求。

    参考来源

    - 位置:《SRE:Google运维解密》第20章《数据中心内部的负载均衡系统》(源文件:`_epub-src/OEBPS/Text/0009_0011.xhtml`) - 结论依据:原文描述最闲轮询的做法、地漏效应及把错误计为活跃请求的解法,并指出其两项限制与实际效果。 - 原始内容:取决于错误的类型,错误回复可能延迟非常低;一般来说返回一个“我不健康”的错误比实际处理请求要快得多。于是,客户端任务错误地认为该任务可用,从而给该异常任务分配了大量的请求。