知识卡片

普通读书笔记卡 · 2539.d

自适应降载保吞吐

理解等级:未标注

请求超过服务器峰值能力后,若照单全收,所有请求都会变慢超时,有效响应反而断崖下跌。自适应降载由后台持续监测CPU、内存、并发、延迟,过载时主动拒绝超出部分,让有效响应停在峰值水位。多租户网关还要挑出流量异常大的函数优先限流,避免一个租户拖垮所有人。拒绝本身也有开销,流量再高仍会下降。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《Serverless核心技术和大规模实践》第4章《FaaS数据面》(源文件:_epub-src/text/part0010_split_003.html) - 结论依据:原文说明吞吐超过峰值承载能力后请求超时、有效响应显著下降;开启自适应降载拒绝超出部分,使有效响应保持在峰值水位,Gateway需在多租户中找流量异常大的函数限流。 - 原始内容:在未开启自适应降载的情况下,请求吞吐量超过服务器峰值承载能力之后,请求就开始超时,有效响应显著下降;在开启自适应降载的情况下,就可以让服务器的有效响应保持在它的峰值承载能力的“水位”上,而超出峰值承载能力的部分就被拒绝了。……由于它是多个函数共享的流量入口,这时就需要在多个租户之间找合适的租户来限流。