知识卡片

结构图卡 · 2708.e.1

IO与工作线程队列解耦

理解等级:中级

常见服务模型按以下路径处理请求:

  1. 少量 IO 线程收发请求,把任务放入队列。
  2. 多个 Worker 从队列取任务并同步处理。

队列是两类线程之间的传输通道,也是共享资源;Worker 等待下游响应时不占 CPU,因此可通过增加 Worker 提高并发,但数量仍要结合等待比例测量。

发散:调整线程池前先确认服务是否真用这种模型。

结构图:

flowchart LR
    A[上游请求] --> B[少量 IO 线程收发]
    B --> C[共享任务队列]
    C --> D[多个 Worker 同步处理]
    D --> E[缓存 RPC 数据库]
这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《架构师之路》第04章《线程数究竟设多少合理》(源文件:_epub-src/OEBPS/Text/4.html) - 结论依据:原文逐项列出 IO 线程、任务队列和 Worker 的生产消费关系,并明确 Worker 内部同步阻塞执行,故可讨论增加 Worker 数量。 - 原始内容:有少数几个IO线程监听上游发过来的请求,并进行收发包(生产者)……有一个或者多个任务队列,作为IO线程与Worker线程异步解耦的数据传输通道(临界资源)……有多个工作线程执行正真的任务(消费者)