知识卡片
相对地址要结合实际响应解析
用urljoin(response.url, i)将图片或后续链接的相对地址转成绝对地址,可保留相应目录和站点上下文;绝对地址也可能直接覆盖基准来源。Python3使用urllib.parse而非旧urlparse模块,unicode方法也应按目标解释器调整。转换为绝对URL只是地址解析,不自动证明链接有效或处于允许范围。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 爬虫基础 3.3.5 清理——item装载器与管理字段 · 查看原书依据
urlparse.urljoin(response.url, i)
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第3章 爬虫基础,spine035单元018;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00034.html。
- 结论依据:原文urljoin以response.url为基准,支持保留相对地址上下文;绝对URL可覆盖来源,字符串解析不保证目标可达或授权。补充核验入口:https://docs.python.org/3/library/urllib.parse.html#urllib.parse.urljoin。未在本机运行示例或改变环境。
- 原始内容:pCompose( lambda i: urlparse.urljoin(response.url, i))) 完整列表将会在本章后续部分给出。当你使用我们目前开发的代码运行 scrapy crawl basic 时,可以得到更加整洁的输出值。 'price': [334.3