感谢您的答复!
yinghua...@163.com 发件人: 赵一旦 发送时间: 2021-01-14 18:43 收件人: user-zh 主题: Re: Re: 请教个Flink checkpoint的问题 机制就是这样的。如下是我之前做过的测试。 启动后等待若干检查点之后做如下操作文件系统上的检查点是否保留说明 WEB UI 点击 Cancel 方式取消任务 保留 合理,因为设置了 RETAIN_ON_CANCELLATION。 通过命令生成保存点:flink savepoint ${jobId} ${savepointDir} 保留 OK 通过命令取消任务:flink cancel ${jobId} 保留 OK 通过命令取消任务并生成保存点:flink cancel -s ${savepointDir} ${jobId} 保留 OK 通过命令停止任务(基于默认保存点目录):flink stop ${jobId} *不*保留 *注意别被特点坑* 通过命令停止任务并生成保存点:flink stop -p ${savepointDir} ${jobId} *不*保留 *注意别被特点坑 * yinghua...@163.com <yinghua...@163.com> 于2021年1月14日周四 下午6:23写道: > [root@sdp-10-88-100-147 flink-1.11.3]# hdfs dfs -ls > hdfs://hdfsCluster/apps/ccp/flink/checkpoints/10001/39ed8aee0a2c4497be9a9d826355f595/chk-6 > Java HotSpot(TM) 64-Bit Server VM warning: ignoring option > MaxPermSize=512m; support was removed in 8.0 > log4j:WARN No such property [datePattern] in > org.apache.log4j.RollingFileAppender. > 21/01/14 17:05:50 INFO util.NativeCodeLoader: Loaded the native-hadoop > library > Found 1 items > -rw-rw-r-- 3 yarn hdfs 5388 2021-01-14 17:03 > hdfs://hdfsCluster/apps/ccp/flink/checkpoints/10001/39ed8aee0a2c4497be9a9d826355f595/chk-6/_metadata > // 这个是通过JobManger看到已经checkpoing完成后去查询出来的记录,的确是生成了,里面已经包含了_metadata文件 > [root@sdp-10-88-100-147 flink-1.11.3]# hdfs dfs -ls > hdfs://hdfsCluster/apps/ccp/flink/checkpoints/10001/39ed8aee0a2c4497be9a9d826355f595/chk-6 > //我停止任务后再去查询时,这个目录已经删除了,出错如下 > Java HotSpot(TM) 64-Bit Server VM warning: ignoring option > MaxPermSize=512m; support was removed in 8.0 > log4j:WARN No such property [datePattern] in > org.apache.log4j.RollingFileAppender. > 21/01/14 17:06:17 INFO util.NativeCodeLoader: Loaded the native-hadoop > library > ls: > `hdfs://hdfsCluster/apps/ccp/flink/checkpoints/10001/39ed8aee0a2c4497be9a9d826355f595/chk-6': > No such file or directory > //出错信息,checkpoint信息被删除了,这个目录我是专门用来存放checkpoint信息,排除其他主动删除该文件的可能 > > > > > > yinghua...@163.com > > 发件人: tison > 发送时间: 2021-01-14 18:04 > 收件人: user-zh > 主题: Re: 请教个Flink checkpoint的问题 > 没明白你说的最近一次 checkpoint 被删除啥意思,你可以列一下 checkpoint 目录的内容,你觉得应该是啥,结果是啥。 > > Best, > tison. > > > Evan <chengyanan1...@foxmail.com> 于2021年1月14日周四 下午5:56写道: > > > 代码图挂掉了,看不到代码 > > > > > > > > > > 发件人: yinghua...@163.com > > 发送时间: 2021-01-14 17:26 > > 收件人: user-zh > > 主题: 请教个Flink checkpoint的问题 > > > > > 我在yarn上提交任务时,设置flink的checkpoint是5分钟一次,checkpoint使用RocksDBStateBackend保存在HDFS上且任务取消后不删除checkpoint,代码如下 > > > > > 现在我发现,当我停止任务时使用stopWithSavepoint发现任务停止后把最近一次的checkpoint信息给删除了?目前机制是这样的吗还是我使用有问题?是不是调用cancelWithSavepoint停止任务时就不会删除最近一次的checkpoint信息? > > > > > > yinghua...@163.com > > >