知识卡片

普通读书笔记卡 · 2561.b

限流定义容量边界

理解等级:未标注

限流先要把容量边界显式化。客户端侧可以限制访问上游的最大连接数、最大请求数,但每个客户端只看到自己,无法知道服务端的真实总压力;所以还需要服务端视角的全局限流:新连接或每个请求路由前,远程询问全局限流服务是否放行,不放行直接返回失败。超出容量时有序拒绝,好过在峰值中随机崩溃。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《Service Mesh微服务架构设计》第8章《Istio微服务治理》(源文件:_epub-src/EPUB/169.xhtml) - 结论依据:原文说明Envoy以resource manager限制上游最大连接数、请求数等资源,但任何客户端都难以了解服务端真实压力,因此需要服务端视角的全局限流,支持网络层与HTTP层两种方式。 - 原始内容:但对于有大量客户端的服务端程序来说,从任何一个客户端都很难确切地了解服务端程序的真实压力情况,并进行准确的资源限制,因此需要有一个从服务端角度出发的全局视角……Envoy当前支持网络层面和HTTP层面两种限流方式。