知识卡片

操作参考卡 · 8025.bt · 生成模型:未记录

相对地址要结合实际响应解析

理解等级:中级

用urljoin(response.url, i)将图片或后续链接的相对地址转成绝对地址,可保留相应目录和站点上下文;绝对地址也可能直接覆盖基准来源。Python3使用urllib.parse而非旧urlparse模块,unicode方法也应按目标解释器调整。转换为绝对URL只是地址解析,不自动证明链接有效或处于允许范围。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第3章 爬虫基础,spine035单元018;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00034.html。 - 结论依据:原文urljoin以response.url为基准,支持保留相对地址上下文;绝对URL可覆盖来源,字符串解析不保证目标可达或授权。补充核验入口:https://docs.python.org/3/library/urllib.parse.html#urllib.parse.urljoin。未在本机运行示例或改变环境。 - 原始内容:pCompose( lambda i: urlparse.urljoin(response.url, i))) 完整列表将会在本章后续部分给出。当你使用我们目前开发的代码运行 scrapy crawl basic 时,可以得到更加整洁的输出值。 'price': [334.3