知识卡片

结构图卡 · 4146

超热数据缓存

理解等级:高级

面对海量商品,书中用一个长度为50的Queue维护阶段性的高频SKU,并称位置会随访问而前移,因此可以在秒级找出队列前部的热点。识别出的热点由“超热数据缓存”优先承接,减少请求继续穿透到后端存储;书中用500万次秒杀请求中约10万至20万次被这一层挡住来说明效果。

原文没有给出入队、去重、计数、淘汰和并发更新算法,因此不能把它进一步断言为LRU、滑动窗口或精确Top-K,也不能据此证明实现“零成本”或排序一定正确。可迁移的结论是:热点识别允许使用有界的近似结构,但上线前仍要定义时间窗口、重复访问如何累计、并发更新是否原子以及热点误判的容忍度。

结构图:

flowchart LR
    A["请求到达\n访问某个SKU"] --> B["更新定长Queue(书中示例长度50)"]
    B --> F["队列前部\n作为阶段性高频SKU候选"]
    G["新请求到达"] --> H{"命中队列前部热点SKU?"}
    H -->|"命中(书中案例约10万~20万/500万请求)"| I["由超热缓存承接\n减少后端穿透"]
    H -->|"未命中"| J["继续往后层存储查询"]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《高可用架构(第1卷)》第3章《电商架构热点专题》"3.2 大促系统全流量压测及稳定性保证——京东交易架构"节,"3.2.5 应对大促的第2步:根据压力表现进行调优"(源文件:_epub-src/OEBPS/Text/Chapter3_2_6.xhtml) - 结论依据:原文说明"我们利用Queue的原理,不断往里塞SKU,队列的长只有50……传进来之后,有的位置会往前移,我们能很快地在一秒内知道,排在前面的SKU肯定是访问次数最多的……如果是秒杀商品,在500万的请求中会有10~20万,它大部分的请求肯定在这块就出去了,不会穿透进来",直接支撑本卡片结论与结构图。 - 原始内容:我们利用Queue的原理,不断往里塞SKU,队列的长只有50……传进来之后,有的位置会往前移,我们能很快地在一秒内知道,排在前面的SKU肯定是访问次数最多的,也是每一个阶段内应用存储访问最多的数据,如果是秒杀商品,在500万的请求中会有10~20万,它大部分的请求肯定在这块就出去了,不会穿透进来。 - 修订说明:原文未说明具体队列算法;本卡删除了“LRU、滑动窗口、队满淘汰、无需排序”等无法由原文证明的实现推断。