知识卡片
按用户配额隔离全局过载
被很多团队依赖的内部服务常发生全局过载,此时关键是只拒绝超额的“异常”用户,其他用户不受影响。做法是与各客户团队协商用量约定,配置每用户配额:如总共 10,000 个 CPU,邮件、日历各 4,000,安卓 3,000,其他用户 500。配额之和可超过总量,因为大家同时用满极少见。系统实时汇总各后端用量并下发配额调整,难点是准确计算每个请求消耗的 CPU。发散:配额是把“谁先挨打”提前说清楚。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第21章 应对过载 · 查看原书依据
例如,如果一个后端服务在全世界范围内分配了10,000个CPU(分布在多个数据中心中),它们的每用户限额可能与下面的类似: ● 邮件服务(Gmail)允许使用4,000 CPU(每秒使用4,000个CPU)。 ●日历服务(Calendar)允许使用4,000 CPU ● 安卓服务(Android)允许使用3,000 CPU ● Google+允许使用 2,000 CPU ● 其他用户允许使用 500 CPU 这里要注意的是,上述这些数字的总和会超过该后端服务总共分配的10000 CPU容量,这是因为所有用户都同时将他们的资源配额用满是一种非常罕见的情况。 我们随后从所有的后端任务中实时获取用量信息,并且使用这些数据将配额调整信息推送给每个后端任务。该系统的实现细节,已经超出了本书讨论的范围,但是可以说的是,我们在后端任务中写了相当多的代码来做到这一点。
参考来源
- 位置:《SRE:Google运维解密》第21章《应对过载》(源文件:`_epub-src/OEBPS/Text/0009_0012.xhtml`)
- 结论依据:原文说明全局过载时按用户配额只拒绝超额用户,给出配额示例与超售理由,并指出实时计算请求成本的难点。
- 原始内容:这里要注意的是,上述这些数字的总和会超过该后端服务总共分配的10000 CPU容量,这是因为所有用户都同时将他们的资源配额用满是一种非常罕见的情况。