知识卡片
本地去重不提供全局唯一性
_seen集合防止本次中间件把重叠索引抽出的同一URL反复加入批次。它只存在于当前实例,随发现规模增长占内存,不能跨重启、跨调度器或跨重试去重。若目标是结果唯一,还需在相应持久化边界定义身份和幂等,不能把这个集合误认为分布式任务的一次处理协议。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 使用Scrapyd与实时分析进行分布式爬取 11.4.2 分批爬取URL · 查看原书依据
self._seen = set()
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第11章 使用Scrapyd与实时分析进行分布式爬取,spine043单元007;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00042.html。
- 结论依据:原文集合在构造时创建、按URL加入,说明其作用域;没有跨实例持久化或消费确认代码。未在本机运行示例或改变环境。
- 原始内容:D_TARGET_RULE', -1) self._seen = set() self._urls = [] self._batch_size = settings.getint('DISTRIBUTED_BATCH_SIZE', 1000) .