知识卡片
分词统计不能冒充房源总体
若word_prices是一条房源对应多个词价对,把各词的和与计数直接reduce会让多词标题被重复计算,得到词出现口径而非每房源一次的总价和条数。要解释成房源均值,需从独立全体统计或有证明的预处理取得S和n;仅本节摘出的to_shifts无法证明此条件。本次未取得外部完整源码,保留这个证据边界,不能虚称已验证原实现无误。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第11章 使用Scrapyd与实时分析进行分布式爬取 11.6 使用Apache Spark流计算偏移量 · 查看原书依据
word_prices.values().reduce(add_tuples)
参考来源
- 位置:《Python编程精进(第1辑)(套装共3册)(异步图书)》精通Python爬虫框架Scrapy · 第11章 使用Scrapyd与实时分析进行分布式爬取,spine043单元011;来源项目book-sources,extracted/Python编程精进(第1辑)(套装共3册)(异步图书)/_epub-src/OEBPS/text00042.html。
- 结论依据:原文预处理被概括为条件/价格对,reduce又汇总各键计数;正文未给可证明总体去重的预处理实现,因此仅作条件性风险分析。未在本机运行示例或改变环境。
- 原始内容:es): (sum0, cnt0) = word_prices.values().reduce(add_tuples) avg0 = sum0 / cnt0 def calculate_shift((isum, icnt)): avg_with = isum / icnt avg_wit