知识卡片

普通读书笔记卡 · 2788.c

全局流控按节点均分

理解等级:未标注

流控分两种:全局流控针对接入的客户端,限制其在整个集群的并发,防止单个客户端占用过多资源;节点流控保护单个服务节点。实时统计全集群 TPS 需要节点间协调,技术上很难,常用做法是按后端节点数把全局阈值均分为节点阈值,如全局 300 TPS、6 个节点,则每节点 50 TPS。超限请求直接拒绝,或先进缓冲线程池。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《企业级云原生架构:技术、服务与实践》第10章《高可用解决方案》(源文件:_epub-src/OEBPS/Text/chapter010.html) - 结论依据:原文说明流控分全局流控和节点流控;全局流控一般针对客户端,防止单个客户端占用过多资源;节点流控保护服务器节点;实时统计集群所有节点的TPS技术上很难,可按后端节点数把全局流控转化为节点流控,如全局300TPS、6个节点则每节点50TPS;超限请求直接拒绝或进缓冲线程池。 - 原始内容:为了实现简单方便,一般的高可用系统在设置全局流控时,不会真的计算统计集群所有节点的服务请求TPS,因为集群节点间的实时协调在技术上是一个很大的挑战。……例如,某个接入客户端的全局流控值为300TPS,后端服务共6个节点,那么每个节点的流控阈值就是50TPS。