知识卡片

普通读书笔记卡 · 8025.ho · 生成模型:未记录

本地去重不提供全局唯一性

理解等级:中级

_seen集合防止本次中间件把重叠索引抽出的同一URL反复加入批次。它只存在于当前实例,随发现规模增长占内存,不能跨重启、跨调度器或跨重试去重。若目标是结果唯一,还需在相应持久化边界定义身份和幂等,不能把这个集合误认为分布式任务的一次处理协议。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第11章 使用Scrapyd与实时分析进行分布式爬取,spine043单元007;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00042.html。 - 结论依据:原文集合在构造时创建、按URL加入,说明其作用域;没有跨实例持久化或消费确认代码。未在本机运行示例或改变环境。 - 原始内容:D_TARGET_RULE', -1) self._seen = set() self._urls = [] self._batch_size = settings.getint('DISTRIBUTED_BATCH_SIZE', 1000) .