知识卡片
注册扩展与启用条件分开处理
Latencies通过from_crawler获得依赖,在构造时读取LATENCIES_INTERVAL,未设置则抛NotConfigured;再注册信号处理器。EXTENSIONS中有类路径不等于实例必启用,参数还需有效且符合约束,不能把非零负间隔也当合理配置。这种显式初始化模式让可选功能按配置接入,而不需每个Spider改代码。
结构图: 类图
classDiagram
class Latencies {
+from_crawler(crawler)
-crawler
-interval
-latency
-proc_latency
-items
-_spider_opened(spider)
-_spider_closed(spider, reason)
-_request_scheduled(request, spider)
-_response_received(response, request, spider)
-_item_scraped(item, response, spider)
-_log(spider)
}
Latencies ..> Crawler : settings与signals
Latencies --> LoopingCall : 周期日志
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第8章 Scrapy编程 8.5 示例2:测量吞吐量和延时的扩展 · 查看原书依据
raise NotConfigured
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第8章 Scrapy编程,spine040单元009;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00039.html。
- 结论依据:原文Latencies无间隔时抛NotConfigured,直接支持注册类与实际启用不同,非零但负数配置也未因此合理。补充核验入口:https://docs.scrapy.org/en/latest/topics/extensions.html。未在本机运行示例或改变环境。
- 原始内容: not self.interval: raise NotConfigured cs = crawler.signals cs.connect(self._spider_opened, signal=signals.spider_opened) c