知识卡片

普通读书笔记卡 · 3167.e

任务池限制异步协程膨胀

理解等级:高级

每个长连请求里再为 I/O 启动新协程,弱网或下游阻塞时会让等待任务持续堆积。将确需异步的操作放入有界任务池,由固定工作协程处理,再经 Channel 返回结果,可把排队、批处理和限量策略集中管理。任务池应按业务接口决定拒绝、重试或缓存;仅在 RPC 库按字节限流无法表达这些语义。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《高可用架构·Learning as we Go(第5期)》第5章《如何用Go实现支持数亿用户的长连消息系统》(源文件:_epub-src/OEBPS/text00000.html#nav_point_36) - 结论依据:原文将大量短命协程和网络抖动导致的协程激增列为问题,建议用任务池及常驻协程处理异步 I/O,并说明业务任务池比通信库更知道限流后的动作。 - 原始内容:“最好通过一个任务池,和一组常驻协程,来消耗,处理结果,通过channel再传回调用方。使用任务池还有额外的好处,可以对请求进行打包处理,提高吞吐量,并且可以加入控量策略。”