知识卡片
缓存限流与管道顺序共同生效
缺键回调先等许可再地理编码,process_item等cache.find完成后设置location并返回Item;已有位置可由完整管道跳过,写ES须在坐标就绪后。旧GeoPipeline与新geo2应选择一个启用,不能都以同一优先级留下。示例改称throttler.enqueue而前文只给throttle,API不一致须按真实实现核对,不能认为片段拼接已可运行。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第9章 管道秘诀 9.1.3 使用Google Geocoding API实现地理编码的管道 · 查看原书依据
yield self.throttler.enqueue()
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第9章 管道秘诀,spine041单元006;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00040.html。
- 结论依据:原文缺键等待许可再编码、find完成再设location并返回Item,支持顺序依赖;新旧GeoPipeline或enqueue名字错配不能靠同优先级配置补救。未在本机运行示例或改变环境。
- 原始内容:ack(self, address): yield self.throttler.enqueue() value = yield self.geocode(address) defer.returnValue(value) @defer.inlineCallbacks