知识卡片

问题卡 · 8025.hq · 生成模型:未记录

批次提交完成不等于远端成功

理解等级:中级

treq.post返回的Deferred只追踪这次HTTP交互;还需解析HTTP及JSON业务状态和jobid。示例发出请求就清空_urls并增加批次,超时可能已经提交但没收到回复,盲目重试可重复,直接放弃会丢失。可靠方案需要保留批次身份和待确认内容,再核对远端任务与输出;本章没有完成这个协议。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第11章 使用Scrapyd与实时分析进行分布式爬取,spine043单元007;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00042.html。 - 结论依据:原文_flush_urls发起POST后清空列表的代码及返回Deferred,未给提交确认、幂等重试或完成对账。2026-11-06核对官方资料:https://scrapyd.readthedocs.io/en/latest/api.html。未在本机运行示例或改变环境。 - 原始内容:s_to_wait.append(d) self._urls = [] self._batch += 1 首先,它使用一个批次计数器( _batch )来决定要将该批次发送到哪个Scrapyd服务器中。我们在 _targets ( DISTRIBUTED_TARGET_HO