知识卡片
任务池限制异步协程膨胀
每个长连请求里再为 I/O 启动新协程,弱网或下游阻塞时会让等待任务持续堆积。将确需异步的操作放入有界任务池,由固定工作协程处理,再经 Channel 返回结果,可把排队、批处理和限量策略集中管理。任务池应按业务接口决定拒绝、重试或缓存;仅在 RPC 库按字节限流无法表达这些语义。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《高可用架构·Learning as we Go(第5期)》第5章《如何用Go实现支持数亿用户的长连消息系统》(源文件:_epub-src/OEBPS/text00000.html#nav_point_36)
- 结论依据:原文将大量短命协程和网络抖动导致的协程激增列为问题,建议用任务池及常驻协程处理异步 I/O,并说明业务任务池比通信库更知道限流后的动作。
- 原始内容:“最好通过一个任务池,和一组常驻协程,来消耗,处理结果,通过channel再传回调用方。使用任务池还有额外的好处,可以对请求进行打包处理,提高吞吐量,并且可以加入控量策略。”