准备看些文档再尝试下,该问题撤回,多谢,
done.
在2022年05月12日 15:36,徐战辉 写道:
hi, Yuxia,
这边是想咨询下,如何设置flink配置及作业参数,在取消作业重新部署、flink作业失败重跑情况下,保证不丢失数据。
目前有一份作业,开启checkpoint, cancel 后重新启动,发现数据会丢失1小部分。
1. flink.conf
execution.checkpointing.interval: 1
,
'scan.startup.mode' = 'group-offsets',
'properties.auto.offset.reset' = 'latest',
'properties.bootstrap.servers' = '***:9092',
'properties.group.id' = 'zep',
'value.format' = 'csv'
)
Best Re
| |
Jerry Guo
|
|
wangyixuhongm...@163.com
|
转发的原邮件
| 发件人 | 徐战辉 |
| 发送日期 | 2022年5月12日 10:38 |
| 收件人 | user-zh@flink.apache.org |
| 主题 | 基于flink sql作业失败与取消状况下的作业参数设置咨询(flink-1.14.2) |
hello, 请教下,如何设置flink配置及作业参数,在取消作业重新部署、flink作业失败重跑情况下,保证不丢失数据。
目前有一份作业,开启checkpoint, cancel 后重新启动,发现数据会丢失1小部分。
1. flink.conf
execution.checkpointing.interval: 1
execution.checkpointing.externalized-checkpoint-retention:
RETAIN_ON_CANCELLATION
execution.checkpointing.che