知识卡片
端到端一致靠两端
内容
端到端 Exactly-Once 不只靠 Flink 内部 Checkpoint(见[[Checkpoint备份本地状态]]),还要求 Source 能重放、Sink 能幂等(见[[幂等写吸收重复]])或事务写(见[[事务写延后可见]])。发散:一致性是整条链路性质,不能只看计算引擎。
参考来源
- 位置:《Flink原理与实践》第7章《Flink连接器》(源文件:_epub-src/OEBPS/Text/chapter10.xhtml)
- 结论依据:原文围绕“Source需要支持重发功能”给出定义、流程、对比或限制条件,本卡片据此提炼其可迁移的框架机制,并补充了使用边界或工程启发。
- 原始内容:的一致性主要依赖Checkpoint机制,外部交互的一致性主要依赖Source和Sink提供的功能。Source需要支持重发功能,Sink需要采用一定的数据写入技术,比如幂等写或事务写。 对于Source重发功能,如图7-1所示,只要我们记录了输入的偏移量Offset,作业重启后数据发送方根据该Of……