知识卡片
自适应降载保吞吐
请求超过服务器峰值能力后,若照单全收,所有请求都会变慢超时,有效响应反而断崖下跌。自适应降载由后台持续监测CPU、内存、并发、延迟,过载时主动拒绝超出部分,让有效响应停在峰值水位。多租户网关还要挑出流量异常大的函数优先限流,避免一个租户拖垮所有人。拒绝本身也有开销,流量再高仍会下降。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《Serverless核心技术和大规模实践》第4章《FaaS数据面》(源文件:_epub-src/text/part0010_split_003.html)
- 结论依据:原文说明吞吐超过峰值承载能力后请求超时、有效响应显著下降;开启自适应降载拒绝超出部分,使有效响应保持在峰值水位,Gateway需在多租户中找流量异常大的函数限流。
- 原始内容:在未开启自适应降载的情况下,请求吞吐量超过服务器峰值承载能力之后,请求就开始超时,有效响应显著下降;在开启自适应降载的情况下,就可以让服务器的有效响应保持在它的峰值承载能力的“水位”上,而超出峰值承载能力的部分就被拒绝了。……由于它是多个函数共享的流量入口,这时就需要在多个租户之间找合适的租户来限流。