知识卡片

结构图卡

压测流量打标与上下文传递方案

理解等级:未标注

线上实施全链路压测的前提是系统能够智能化、准确无误地区分出真实用户流量和压测流量。打标本身有两种常见方式:在URL上打标(如加st=true参数)或在HTTP的header中打标,选哪种取决于具体业务场景。真正的难点不在打标本身,而在传递——一次请求会经过接入层判断,若检测为压测流量,就需要把这个压测标记在整个请求生命周期(涉及的所有后端服务调用)中持续流转下去,不能中断。业界通常不会靠在每处业务代码里插入条件判断来实现传递(成本高且难以保证不遗漏),而是把流量区分和标记传递的任务下沉到中间件、组件层完成,业务系统只需升级依赖的中间件版本即可,无需侵入业务代码——具体做法是嵌套在分布式调用跟踪系统(见[[分布式调用跟踪的核心概念TraceSpan与四时间戳]])中的拦截器优先拦截请求、从URL或header中提取压测标记,存入当前线程的ThreadLocal,调用下游服务时再从中取出、放入Dubbo的RpcInvocation中逐层向下传递。这个方案有一个真实踩过的坑:如果业务代码用new Thread()方式直接创建线程发起异步RPC请求,子线程无法获取父线程ThreadLocal中设置的压测标记,导致标记传递中断——解决方式是改用ThreadLocal的派生类InheritableThreadLocal,若采用线程池方式则需用阿里的TransmittableThreadLocal替代JDK原生ThreadLocal(因为线程池中的线程是复用的,创建时机与父线程的绑定关系和普通new Thread不同,InheritableThreadLocal无法覆盖这种场景)。

结构图:

flowchart LR
    A[请求到达接入层] --> B{URL/Header中<br/>是否含压测标记}
    B -- 是 --> C[拦截器存入当前线程ThreadLocal]
    C --> D[调用下游服务时<br/>取出标记放入RpcInvocation]
    D --> E[逐层向下传递给后端服务]
    C -.new Thread异步调用.-> F[子线程无法获取标记<br/>需改用InheritableThreadLocal]
    C -.线程池异步调用.-> G[需用TransmittableThreadLocal<br/>替代原生ThreadLocal]
这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《超大流量分布式系统架构解决方案:人人都是架构师2.0》第2章《大促备战核弹——全链路压测》"2.2.1 压测流量打标方案""2.2.2 在链路上下文信息中传递压测标记"两节(源文件:OEBPS/Text/0007.xhtml) - 结论依据:原文说明打标方式"在URL上进行打标;在HTTP的header中进行打标"两种,并详述通过拦截器在ThreadLocal中传递标记的方案,特别指出"业务代码中存在通过直接创建线程的方式异步发起RPC请求,这样一来,子线程便无法获取到父线程设置在ThreadLocal中的压测标记等信息……应该使用ThreadLocal 的派生类 InheritableThreadLocal,如果采用线程池的方式,那么可以使用阿里的TransmittableThreadLocal来替代JDK原生的ThreadLocal",直接支撑本卡片结构。 - 原始内容:嵌套在分布式调用跟踪系统中负责流量区分的拦截器会优先对请求进行拦截,然后尝试从URL或者HTTP的header中获取出压测标记……业务代码中存在通过直接创建线程的方式异步发起RPC请求,这样一来,子线程便无法获取到父线程设置在ThreadLocal中的压测标记等信息。