知识卡片
边缘多层缓存
边缘把服务摊到几百个节点,每个实例分到的请求很少,进程内缓存更难命中。推荐按延迟由近到远逐层查:代码内缓存、本机Local Cache(取决于磁盘)、本机房Global KV Proxy(内网延迟)、汇聚机房Global KV(公网延迟);都没有才回源,并把结果写回Global KV和Local Cache。每一层都用更慢但更共享的存储兜住上一层。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《Serverless核心技术和大规模实践》第9章《FaaS轻量级函数与云边一体》(源文件:_epub-src/text/part0015_split_006.html)
- 结论依据:原文推荐业务代码内缓存、Local Cache、Global KV Proxy、汇聚机房Global KV Server依次查找的多层缓存,均未命中再由业务回源并写入Global KV和Local Cache;边缘实例分散使单实例QPS低、缓存更难命中。
- 原始内容:在传统容器场景下,部署少量的容器实例就可以承载所有请求。然而在边缘场景中,服务被分散到几百个边缘节点的MicroFunction上运行,后端的计算实例数量增加使得平均每个MicroFunction承载的QPS更低,加剧了缓存无法命中的状况。……(5)若步骤(4)未命中,数据业务未向Global KV中存储数据,属于第一次被访问的数据,需要业务自行回源,获取所需信息,然后写入Global KV和Local Cache中。