知识卡片
自动扩缩容要设边界
自动扩缩容(垂直:加单机资源;水平:加机器数)用对了能提高可用性和利用率,用错了会伤害服务。
不健康的实例:扩缩容常按所有实例的平均利用率计算,并假设实例同质。还在加载二进制或预热的实例、卡死的“僵尸”实例也被计入平均值,可能导致根本不扩容。对策:用负载均衡器观察到的容量做扩缩依据(自动排除不健康实例);新实例稳定后再收集指标(GCE 称为冷却期);配合自动修复重启不健康实例,并给重启后恢复留足时间。新实例的创建从来不是即时的。
有状态系统:同一会话的请求总是去同一后端,过载时水平加实例无济于事,更好的是智能的任务级路由(如一致性哈希)分散负载;垂直扩缩可吸收短期热点,但通常对所有实例一致生效,低流量实例会被不必要地放大。
保守配置:扩容比缩容更重要且风险更低——缩错了再扩会造成过载和丢流量,所以多数实现对流量上升更敏感、缩容更谨慎。让服务远离关键瓶颈(如 CPU)运行,给扩容留出反应时间;面向用户的服务保留足够备用容量用于过载保护和冗余。
设置约束:配置错误会失控。例:新版本有 bug,空耗 CPU 不干活——按 CPU 扩容会不断扩到耗尽所有配额;依赖故障让请求卡住、持续占资源——扩容只会让更多流量卡住,加在故障依赖上的负载还会阻碍其恢复。所以要设最小和最大边界,确保配额足够扩到上限,也便于容量规划。
终止开关与手动接管:值班工程师要知道如何禁用自动扩缩、如何手动扩缩;开关要简单、明显、快速、有文档。
避免压垮后端:扩容会把更多负载推给数据库等后端,部署前做依赖分析(有些服务扩展不是线性的),确保后端有余量并能优雅降级,用分析结果设定上限;共享配额的多个微服务,一个扩容可能吃光配额让其他服务无法扩——先做有限扩展,或给每个微服务单独配额(可能需要拆成独立项目)。
避免流量不平衡:区域托管实例组可以让自动扩缩器在区域内各可用区间均衡实例数,避免单个可用区过大,也使按区配额的使用均匀、增加故障域多样性。
译文提示:本书为社区机器辅助译本,本卡按上下文和官方英文版理解,引文保留中文原样。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 管理负载 · 查看原书依据
限制允许自动缩放器执行的工作非常有用。