← 返回起始笔记位置

知识卡片

普通读书笔记卡 · 4545.i.1.b.1.a.2.a.5

流计算围绕持续输入和窗口

理解等级:中级

批处理启动时已有确定输入;流处理持续接收新事件,常按最近一段窗口聚合或去重。若把流缓存成批,小批量会放大作业启动开销,大批量又增加等待时间。选择应由允许延迟、吞吐和窗口状态共同决定,而不是把“能不断运行”当作结果及时且正确的保证。

可联系[[洗牌把相同键送往同组]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      如果MapReduce每次处理的数据量较小,缓存数据流的时间较短,但是,MapReduce框架造成的额外开销将会占很大比重;如果MapReduce每次处理的数据量较大,缓存数据流的时间会很长,无法满足实时性的要求。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-076)。 - 结论依据:原文的对应定义、执行流程或比较支撑“批处理启动时已有确定输入;流处理持续接收新事件,常按最近一段窗口聚合或去重。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:如果MapReduce每次处理的数据量较小,缓存数据流的时间较短,但是,MapReduce框架造成的额外开销将会占很大比重;如果MapReduce每次处理的数据量较大,缓存数据流的时间会很长,无法满足实时性的要求。