知识卡片
长任务检查点要支持恢复
逐批持久化可减少异常导致的结果丢失,但恢复还需要保存当前查询身份、已处理批次、续页位置和去重依据。只把最终列表写入数据库,或者仅有中间ID而没有游标,不能保证能从中断处继续且不重复计数。检查点与最终完成标记应区分。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
store data during each iteration to provide an # an additional layer of protection from exceptional circumstances if len(ids) >= limit or response is None: break # Do something use
参考来源
- 位置:《社交网站的数据挖掘与分析(原书第2版)》第9章《9.19.3 讨论》(spine145;extracted/OReilly精品图书系列共21册(《Javascript权威指南》、《机器学习:实用案例解析》、《编写可读代码的艺术》、《算法精解》等)/_epub-src/text/part0134.html;u213-ch09-028)。
- 结论依据:原文在“store data during each iteration”附近的定义、例子或代码支撑本卡核心说明:逐批持久化可减少异常导致的结果丢失,但恢复还需要保存当前查询身份、已处理批次、续页位置和去重依据。边界按已读前提解释;示例未执行。
- 原始内容:store data during each iteration to provide an # an additional layer of protection from exceptional circumstances if len(ids) >= limit or response is None: break # Do something use