知识卡片
批次提交完成不等于远端成功
treq.post返回的Deferred只追踪这次HTTP交互;还需解析HTTP及JSON业务状态和jobid。示例发出请求就清空_urls并增加批次,超时可能已经提交但没收到回复,盲目重试可重复,直接放弃会丢失。可靠方案需要保留批次身份和待确认内容,再核对远端任务与输出;本章没有完成这个协议。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 使用Scrapyd与实时分析进行分布式爬取 11.4.2 分批爬取URL · 查看原书依据
self._urls = [] self._batch += 1
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第11章 使用Scrapyd与实时分析进行分布式爬取,spine043单元007;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00042.html。
- 结论依据:原文_flush_urls发起POST后清空列表的代码及返回Deferred,未给提交确认、幂等重试或完成对账。2026-11-06核对官方资料:https://scrapyd.readthedocs.io/en/latest/api.html。未在本机运行示例或改变环境。
- 原始内容:s_to_wait.append(d) self._urls = [] self._batch += 1 首先,它使用一个批次计数器( _batch )来决定要将该批次发送到哪个Scrapyd服务器中。我们在 _targets ( DISTRIBUTED_TARGET_HO