知识卡片
错误驱动的反压
并发越多不一定越好:下游已过载时继续加并发,只会制造更多错误,甚至把下游压垮。反压机制让发送组件实时上报流量和错误,当限流或高负载错误占比超过阈值,就通知并发池停止新建Worker、回收多余Worker;错误降到阈值以下,再逐步放开。这是负反馈,只在出错后才生效,所以还需要事前的[[集中调配限流配额]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《Serverless核心技术和大规模实践》第6章《FaaS触发器》(源文件:_epub-src/text/part0012_split_002.html)
- 结论依据:原文说明并发不是越多越好,下游负载过高时继续加并发会浪费资源、产生错误甚至导致下游崩溃;Backoff Manager在限流或高负载错误超过阈值时通知Concurrency Manager收缩,错误下降后逐步放开。
- 原始内容:但是并发不一定越多越好,当下游负载过高时,如果继续增加并发就会浪费额外的资源,产生很多不必要的错误,并且可能导致下游崩溃。……当实时上报的需要进行负反馈的流量为0或者低于总流量的某个阈值时,Backoff Manager组件则会逐步释放之前给Concurrency Manager组件施加的负反馈限制