知识卡片
软硬并发
并发软限制是 Autoscaler 的目标,突发时可以被超过;硬限制是容器实际允许的上限,达到后请求会排队。软限制偏调度建议,硬限制偏保护边界;硬限制设太低会保护服务,却可能放大延迟和降低吞吐。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《Knative实战:基于Kubernetes的无服务器架构实践》第7章《Serving组件的扩展配置》(源文件:_epub-src/OEBPS/Text/chapter131.xhtml)
- 结论依据:原文区分硬性限制为强制上限、超出的请求进入缓存区等待,软性限制只是可被突破的目标,并提示低硬限制影响吞吐和延迟。
- 原始内容:硬性限制是一个强制上限,如果并发数达到了边界,更多的请求将被放到缓存区等待,直到有足够的容量被释放时,这些请求才会被执行。软性限制只是给Autoscaler的目标,在突发情况下该值是可以被超出的。……注意:如果你的应用有明确的要求,建议仅使用硬性限制。低的硬限制值会对应用的吞吐量和延迟造成影响。