知识卡片

普通读书笔记卡 · 2540.g

代理层要减拷贝

理解等级:未标注

平台在容器内加的代理层并不免费:小包高并发压测下,RuntimeAgent的CPU开销超过50%,其中七成花在Go原生net/http上。逐项削减:调大HTTP/2读写缓存数,免去频繁分配回收;Agent到用户进程改用UNIX域套接字,省掉TCP栈,极限QPS提升20%;大包改走共享内存,只用套接字通知,峰值QPS再提升15%;最后换高性能框架。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《Serverless核心技术和大规模实践》第5章《FaaS运行时》(源文件:_epub-src/text/part0011_split_003.html) - 结论依据:原文说明RuntimeAgent作为流量代理在小包高并发下CPU开销超50%,Go原生net/http占70%;优化包括调整HTTP/2缓存分配、改用UNIX域套接字(极限QPS提升20%)、共享内存IPC(大包峰值QPS提升15%)、换用Hertz框架。 - 原始内容:尤其是在小包(10 Bytes)场景,以及高并发、高QPS压力测试条件下,RuntimeAgent进程的CPU开销大于50%。……我们将HTTP Client的传输层从TCP连接替换成UNIX域套接字(UNIX domain socket),极大地节省了TCP栈本身的开销,极限QPS性能提升了20%。……在压力测试的场景下,我们发现小包场景下直接使用UNIX域套接字和Shared Memory IPC没有太大的差异;而在大包场景下,我们观察到了15%的峰值QPS提升。