Re: 为消息分配时间戳但不想重新分配水印

2020-04-17 文章 taowang
我的测试结果时,把原先的丢弃掉,完全采用最新的逻辑。 原始邮件 发件人: lec ssmi 收件人: flink-user-cn 发送时间: 2020年4月17日(周五) 14:43 主题: Re: 为消息分配时间戳但不想重新分配水印 watermark的重新生成,是将新的watermark也加入到watermark队列,然后选出一个最值,还是将原先的watermark直接丢弃掉,改用新的? taowang 于2020年4月17日周五 上午10:46写道: > 是的,是生效了的。没见到别人这样用过,在我的场景里这个操作是实现了我需要的逻辑,但会不会引起其他问题,我暂

Re: 为消息分配时间戳但不想重新分配水印

2020-04-17 文章 lec ssmi
watermark的重新生成,是将新的watermark也加入到watermark队列,然后选出一个最值,还是将原先的watermark直接丢弃掉,改用新的? taowang 于2020年4月17日周五 上午10:46写道: > 是的,是生效了的。没见到别人这样用过,在我的场景里这个操作是实现了我需要的逻辑,但会不会引起其他问题,我暂时还没有发现。 > > > 原始邮件 > 发件人: lec ssmi > 收件人: flink-user-cn > 发送时间: 2020年4月17日(周五) 09:25 > 主题: Re: 为消息分配

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 taowang
是的,是生效了的。没见到别人这样用过,在我的场景里这个操作是实现了我需要的逻辑,但会不会引起其他问题,我暂时还没有发现。 原始邮件 发件人: lec ssmi 收件人: flink-user-cn 发送时间: 2020年4月17日(周五) 09:25 主题: Re: 为消息分配时间戳但不想重新分配水印 请问,你对DataStream重新声明时间列和水印,生效吗? taowang 于2020年4月16日周四 下午10:49写道: > 嗯嗯,还是十分感谢。 > 那我暂时就把这个问题先搁置了,至于issue和我们自己的实现,我自己有时间的时候就去提一个,并添

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 lec ssmi
请问,你对DataStream重新声明时间列和水印,生效吗? taowang 于2020年4月16日周四 下午10:49写道: > 嗯嗯,还是十分感谢。 > 那我暂时就把这个问题先搁置了,至于issue和我们自己的实现,我自己有时间的时候就去提一个,并添加自己的实现。 > > > 打扰各位了,祝好!~ > > > 原始邮件 > 发件人: tison > 收件人: user-zh > 发送时间: 2020年4月16日(周四) 22:39 > 主题: Re: 为消息分配时间戳但不想重新分配水印 > > > 正在载入邮件原文…

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 taowang
嗯嗯,还是十分感谢。 那我暂时就把这个问题先搁置了,至于issue和我们自己的实现,我自己有时间的时候就去提一个,并添加自己的实现。 打扰各位了,祝好!~ 原始邮件 发件人: tison 收件人: user-zh 发送时间: 2020年4月16日(周四) 22:39 主题: Re: 为消息分配时间戳但不想重新分配水印 正在载入邮件原文…

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 tison
link ExecutionConfig#getAutoWatermarkInterval()}. >> * >> * @see org.apache.flink.streaming.api.watermark.Watermark >> * @see ExecutionConfig#getAutoWatermarkInterval() >> * >> * @return {@code Null}, if no watermark should be emitted, or the next >> watermark

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 tison
Null}, if no watermark should be emitted, or the next > watermark to emit. > */ > @Nullable > Watermark getCurrentWatermark(); > } > ``` > > > 原始邮件 > 发件人: tison > 收件人: user-zh > 发送时间: 2020年4月16日(周四) 20:33 > 主题: Re: 为消息分配时间戳但不想重新分配水印 > > > 在 getCurrentWater

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 taowang
#getAutoWatermarkInterval() * * @return {@code Null}, if no watermark should be emitted, or the next watermark to emit. */ @Nullable Watermark getCurrentWatermark(); } ``` 原始邮件 发件人: tison 收件人: user-zh 发送时间: 2020年4月16日(周四) 20:33 主题: Re: 为消息分配时间戳但不想重新分配水印 在 getCurrentWatermark 里返回 null 就行了,会 forward 此前的

Re: 为消息分配时间戳但不想重新分配水印

2020-04-16 文章 tison
在 getCurrentWatermark 里返回 null 就行了,会 forward 此前的 watermark 的。另外语义上使用 AssignerWithPunctuatedWatermarks 会更合适一点。 Best, tison. taowang 于2020年4月16日周四 下午5:13写道: > Hello,大家好: > 在flink > stream中我这里遇到一个需求是,想到对上一个算子输出的消息重新分配时间戳,但此时我不想重新分配水印。在从kafka读取消息时我已经添加了水印。 > 为了实现这个功能,我想有两种方法: > 1.

为消息分配时间戳但不想重新分配水印

2020-04-16 文章 taowang
Hello,大家好: 在flink stream中我这里遇到一个需求是,想到对上一个算子输出的消息重新分配时间戳,但此时我不想重新分配水印。在从kafka读取消息时我已经添加了水印。 为了实现这个功能,我想有两种方法: 1. 在算子输出后面重新为消息分配水印:看到flink stream暂时只有`assignTimestampsAndWatermarks`方法,这里面要实现两个接口:`getCurrentWatermark`和`extractTimestamp`。我只想实现`extractTimestamp`而不想管水印相关的`getCurrentWatermark