知识卡片

普通读书笔记卡 · 2544.g

边缘多层缓存

理解等级:未标注

边缘把服务摊到几百个节点,每个实例分到的请求很少,进程内缓存更难命中。推荐按延迟由近到远逐层查:代码内缓存、本机Local Cache(取决于磁盘)、本机房Global KV Proxy(内网延迟)、汇聚机房Global KV(公网延迟);都没有才回源,并把结果写回Global KV和Local Cache。每一层都用更慢但更共享的存储兜住上一层。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《Serverless核心技术和大规模实践》第9章《FaaS轻量级函数与云边一体》(源文件:_epub-src/text/part0015_split_006.html) - 结论依据:原文推荐业务代码内缓存、Local Cache、Global KV Proxy、汇聚机房Global KV Server依次查找的多层缓存,均未命中再由业务回源并写入Global KV和Local Cache;边缘实例分散使单实例QPS低、缓存更难命中。 - 原始内容:在传统容器场景下,部署少量的容器实例就可以承载所有请求。然而在边缘场景中,服务被分散到几百个边缘节点的MicroFunction上运行,后端的计算实例数量增加使得平均每个MicroFunction承载的QPS更低,加剧了缓存无法命中的状况。……(5)若步骤(4)未命中,数据业务未向Global KV中存储数据,属于第一次被访问的数据,需要业务自行回源,获取所需信息,然后写入Global KV和Local Cache中。