知识卡片

普通读书笔记卡 · 4003

长连接系统性能指标的定语陷阱

理解等级:高级

比较不同语言实现的长连接push系统性能时,很难保证测试环境和需求完全统一,任何一个看起来漂亮的数字背后都藏着一堆容易被忽略的”定语”,至少体现在三个指标上。单机连接数:稳定连接、没有网络吞吐的情况下比较连接数意义不大,因为维持连接本身消耗的CPU很小、每条TCP连接约占4K内存,单实例理论上能冲到300万长连接;但在真实弱网络环境下,假设每秒千分之一的用户断线重连,300万长连接意味着每秒新建连接达3万,这3万用户要做注册、加载离线存储等内部RPC调用,还要维持全部连接的心跳(假设300秒一次心跳,每秒也要一万TPS),加上单播多播广播数据转发、GC压力、内部接口响应延迟,这些压力集中在一个实例里,可用性会成为真正的挑战——所以线上单实例实际支持的连接数远低于理论峰值,要结合客户端真实网络状况来定。消息系统的内存使用量:是否需要全双工(读写能否同时进行)会决定每个用户连接需要一个还是两个协程,读写buffer是全局复用、每连接独享、还是动态申请,都会让内存开销的测试结果完全不可比。每秒消息下发量:要看消息到达的QoS级别(ACK策略)、架构是纯推还是推拉结合、是否开启消息日志及其缓冲和flush策略,还要算上为高可用增加的内部通信成本、以及应对小概率闪断的补偿策略成本——去掉这些机制才是纯粹比拼基础库性能,但真实生产系统不可能都去掉。

测试方法也必须保留这些定语:案例选择线上空闲服务器做长连接压测,并结合可视化观察压测过程中的系统状态。这样的结果只代表所选机器、当时负载和指定场景;若不记录硬件、协议、业务动作、并发与监控曲线,单个峰值不能外推为系统容量。三个指标和这套压测方法共同说明,架构性能对比必须先把场景与实现条件讲清楚。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《高可用架构(第1卷)》第1章《高可用架构案例精选》"1.4 如何实现支持数亿用户的长连消息系统:Golang高并发案例"节,"1.4.1 关于push系统对比与性能指标的讨论"(源文件:_epub-src/OEBPS/Text/Chapter1_4_2.xhtml) - 结论依据:原文说明"在讨论对比数据的时候,很难保证大家环境和需求的统一……数据是有的,但这个数据前面估计会有很多定语",并逐一分析单机连接数、内存使用量、每秒消息下发量三个指标各自依赖的前提条件,直接支撑本卡片结论。 - 补充位置:同节“1.4.5 消息系统的运维及测试”(源文件:_epub-src/OEBPS/Text/Chapter1_4_6.xhtml)说明其压测选择线上空闲服务器,并结合可视化分析过程状态。 - 原始内容:如果当前是稳定连接,在没有网络吞吐情况下对比连接数这个指标,意义往往不大……在实际网络环境下,单实例300万长连接,从理论上算压力就很大……所以我只能给出大概数据。