Re: flink 1.11 rest api saveppoint接口 异常

2020-07-30 Thread taowang
好呀好呀~ 原始邮件 发件人: Congxian Qiu 收件人: user-zh; taowang 发送时间: 2020年7月30日(周四) 20:53 主题: Re: flink 1.11 rest api saveppoint接口 异常 Hi taowang FLINK-18748 在 Jiar 侧有一些讨论,这个问题修复起来应该会比较简单,你是否有意愿修复这个问题呢? Best, Congxian taowang 于2020年7月29日周三 下午3:23写道: > 好哒,我的自动更新逻辑依赖了这个 api,不过现在我用其他方式先处理了。 > 感

Re: flink 1.11 rest api saveppoint接口 异常

2020-07-29 Thread taowang
Hi taowang > 感谢你的更新,这个地方应该是 savepoint trigger 的逻辑有问题,现在确实 > setMinPauseBetweenCheckpoints 会影响 savepoint,我创建一个 issue 来跟进一下这个问题 > > Best, > Congxian > > > taowang 于2020年7月29日周三 下午12:29写道: > >> 我再次确认了一下,可能是因为我设置了checkpoint的setMinPauseBetweenCheckpoints,所以在上一次 >&

Re: flink 1.11 rest api saveppoint接口 异常

2020-07-28 Thread taowang
我再次确认了一下,可能是因为我设置了checkpoint的setMinPauseBetweenCheckpoints,所以在上一次 checkpoint 和这个间隔之间触发 savepoint 不会生效,但是接口返回了IN_PROGRESS 的状态,我觉得这里应该是有点问题的。 原始邮件 发件人: taowang 收件人: user-zh 发送时间: 2020年7月28日(周二) 18:53 主题: Re: flink 1.11 rest api saveppoint接口 异常 是的,其实无论是否开启了unaligned checkpoint,我在调用这个接口的时候都没有

Re: flink 1.11 rest api saveppoint接口 异常

2020-07-28 Thread taowang
: flink 1.11 rest api saveppoint接口 异常 Hi 开启 unalign checkpoint 的情况下,如果有 checkpoint 正在做的话,那么 savepoint 会等待的[1],但是把 unaligned checkpoint 关闭之后,还有这个现象看上去不太符合预期。关闭之后这种现象出现的时候,也有 checkpoint 正在做吗? [1] https://issues.apache.org/jira/browse/FLINK-17342 Best, Congxian taowang 于2020年7月28日周二 下午5:05写道: > 在

flink 1.11 rest api saveppoint接口 异常

2020-07-28 Thread taowang
在升级了 flink 1.11之后,我在使用的时候发现 rest api 的 /jobs/:jobid/savepoints 接口表现有点异常: 在 flink 1.10 时:当请求该接口后,在 flink ui 可以看到 savepoint 被触发,/jobs/:jobid/savepoints/:triggerid 返回IN_PROGRESS,等 savepoint 成功之后jobs/:jobid/savepoints/:triggerid返回COMPLETED。 但是在flink 1.11中:经常出现(不是必现,但是概率也不低) /jobs/:jobid/savepoints

Re: 为消息分配时间戳但不想重新分配水印

2020-04-17 Thread taowang
我的测试结果时,把原先的丢弃掉,完全采用最新的逻辑。 原始邮件 发件人: lec ssmi 收件人: flink-user-cn 发送时间: 2020年4月17日(周五) 14:43 主题: Re: 为消息分配时间戳但不想重新分配水印 watermark的重新生成,是将新的watermark也加入到watermark队列,然后选出一个最值,还是将原先的watermark直接丢弃掉,改用新的? taowang 于2020年4月17日周五 上午10:46写道: > 是的,是生效了的。没见到别人这样用过,在我的场景里这个操作是实现了我需要的逻辑,但会不会引起其他问题,我暂

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 Thread taowang
是的,是生效了的。没见到别人这样用过,在我的场景里这个操作是实现了我需要的逻辑,但会不会引起其他问题,我暂时还没有发现。 原始邮件 发件人: lec ssmi 收件人: flink-user-cn 发送时间: 2020年4月17日(周五) 09:25 主题: Re: 为消息分配时间戳但不想重新分配水印 请问,你对DataStream重新声明时间列和水印,生效吗? taowang 于2020年4月16日周四 下午10:49写道: > 嗯嗯,还是十分感谢。 > 那我暂时就把这个问题先搁置了,至于issue和我们自己的实现,我自己有时间的时候就去提一个,并添

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 Thread taowang
嗯嗯,还是十分感谢。 那我暂时就把这个问题先搁置了,至于issue和我们自己的实现,我自己有时间的时候就去提一个,并添加自己的实现。 打扰各位了,祝好!~ 原始邮件 发件人: tison 收件人: user-zh 发送时间: 2020年4月16日(周四) 22:39 主题: Re: 为消息分配时间戳但不想重新分配水印 正在载入邮件原文…

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 Thread taowang
watermark 的。另外语义上使用 AssignerWithPunctuatedWatermarks 会更合适一点。 Best, tison. taowang 于2020年4月16日周四 下午5:13写道: > Hello,大家好: > 在flink > stream中我这里遇到一个需求是,想到对上一个算子输出的消息重新分配时间戳,但此时我不想重新分配水印。在从kafka读取消息时我已经添加了水印。 > 为了实现这个功能,我想有两种方法: > 1. 在算子输出后面重新为消息分配水印:看到flink > stream暂时只有`assignTimestam

Re: 请问有没有什么方法可以把checkpoint打到集群外的hdfs?

2020-04-16 Thread taowang
hello, 唐云: 看到你说从incremental checkpoint恢复后,要重新执行一次savepoint才可以。我自己试了一下,job从incremental checkpoint恢复之后并成功打出第一个checkpoint之后,就手动删掉了checkpoints/目录下除了新的jobid目录之外的所有的文件夹,新的job并没有失败,看起来一切正常,执行一次savepoint也没有失败。

为消息分配时间戳但不想重新分配水印

2020-04-16 Thread taowang
Hello,大家好: 在flink stream中我这里遇到一个需求是,想到对上一个算子输出的消息重新分配时间戳,但此时我不想重新分配水印。在从kafka读取消息时我已经添加了水印。 为了实现这个功能,我想有两种方法: 1. 在算子输出后面重新为消息分配水印:看到flink stream暂时只有`assignTimestampsAndWatermarks`方法,这里面要实现两个接口:`getCurrentWatermark`和`extractTimestamp`。我只想实现`extractTimestamp`而不想管水印相关的`getCurrentWatermark