知识卡片

普通读书笔记卡 · 2565.b

按实时延迟分发请求

理解等级:未标注

传统负载均衡多按轮询、连接数等启发式规则分发;Linkerd工作在请求层,能实时看到每个请求的延迟和各实例排队中的请求数,于是按实时性能数据选择实例。典型算法是“两次随机选择”(P2C):随机挑两个实例,选负载更低或延迟指数加权平均(EWMA)更小的那个,以很低的计算成本避开慢实例。这是代理层看得见每个请求带来的红利。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《Service Mesh实战:基于Linkerd和Kubernetes的微服务实践》第2章《Linkerd入门》(源文件:_epub-src/OEBPS/text00020.html) - 结论依据:原文说明Linkerd工作于第5层,能实时观测所有RPC请求延时和排队数,据此分发请求优于传统启发式算法;支持P2C+最少负载、P2C+Peak EWMA等多种负载均衡算法。 - 原始内容:·Linkerd工作于第5层,它能实时观测到所有RPC请求延时、队列里未处理请求的数量,因此可基于这些实时性能数据分发请求……·提供多种负载均衡算法,如Power of Two Choices(P2C):Least Loaded、Power of Two Choices:Peak EWMA