← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 5281.a.2

流量抛弃先丢不值得做的

理解等级:高级

流量抛弃是在临近过载时主动丢掉部分负载,避免内存超限、健康检查失败和延迟暴涨,让服务器在极限下多做有用功。最简单的是按 CPU、内存或队列长度节流,比如在途请求超过阈值就返回 HTTP 503。更进一步,把先进先出改成后进先出,或用可控延迟算法(CoDel),避免处理已不值得处理的请求:搜索请求排队了 10 秒,用户多半已刷新重发。它与截止时间传递配合很好。发散:排得越久的请求越不值钱。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第22章 处理连锁故障 · 查看原书依据

      另外的做法包括将标准的先入先出(FIFO)队列模式改成后入先出(LIFO),以及使用可控延迟算法(CodDel)(参见文献[Nic12]),或者类似的方式更进一步地避免处理那些不值得处理的请求(参见文献[Mau15])。如果某个用户的Web搜索请求由于RPC排队因素已经等待了10s,很有可能该用户已经放弃了,已经刷新了浏览器又发送了一个新请求:这时回复第一个RPC请求已经没有任何意义,因为它已经没用了!这个策略和层层向下传递RPC截止时间的策略结合起来,工作得十分好,可参见本章后面的“请求延迟和截止时间”一节。 其他更复杂的手段包括通过精确识别客户端的方式来更有选择地丢弃部分任务,或者将请求按优先级排序,按优先级处理等。

    参考来源

    - 位置:《SRE:Google运维解密》第22章《处理连锁故障》(源文件:`_epub-src/OEBPS/Text/0009_0013.xhtml`) - 结论依据:原文定义流量抛弃,介绍 503 节流、LIFO 与 CoDel 等做法及其与截止时间传递的配合。 - 原始内容:如果某个用户的Web搜索请求由于RPC排队因素已经等待了10s,很有可能该用户已经放弃了,已经刷新了浏览器又发送了一个新请求:这时回复第一个RPC请求已经没有任何意义,因为它已经没用了!