Re: flink watermark 乱序数据问题

2023-03-26 文章 Shammon FY
Hi 使用withTimestampAssigner只是定义了生成watermark消息的策略,不会影响数据流。超出指定时间的数据是否处理,可以在定义window的时候使用allowedLateness定义最晚的late event,超出这个时间的窗口数据会直接丢弃 Best, Shammon FY On Sat, Mar 25, 2023 at 12:28 AM crazy <2463829...@qq.com.invalid> wrote: > 大佬好,如下程序,flink在生成watermark策略中,forBoundedOutOfOrderness > 这个乱序时长的指定会不

flink watermark 合并策略机制

2021-04-30 文章 张锴
flink 版本1.12.2,在看官方文档介绍watermark时,看到一句话 *标题是:单调递增时间戳分配器* 注意:在 Flink 应用程序中,如果是并行数据源,则只要求并行数据源中的每个*单分区数据源任务*时间戳递增。例如,设置每一个并行数据源实例都只读取一个 Kafka 分区,则时间戳只需在每个 Kafka 分区内递增即可。Flink 的 watermark 合并机制会在并行数据流进行分发(shuffle)、联合(union)、连接(connect)或合并(merge)时生成正确的 watermark。 请问一下报红的部分在官方文档哪里描述了,我没有找到,有人能给指一下吗?

flink watermark 为负数的异常

2021-01-12 文章 张锴
hi,我通过webUI查看了当前的程序,watermark变为-2,一直没变过,出现这种情况是什么原因,一头雾水。截图在附件里,帮忙分析一下。

Re: Re: flink waterMark 相关问题

2021-01-12 文章 Px New
private long autoWatermarkInterval = 200; /** * Interval in milliseconds for sending latency tracking marks from the sources to the sinks. */ 张锴 于2021年1月13日周三 上午10:26写道: > ok,明白了 > > anonnius 于2021年1月13日周三 上午10:20写道: > > > 在 StreamExecutionEnvironmennt的方法@PublicEvolving public > > voi

Re: Re: flink waterMark 相关问题

2021-01-12 文章 张锴
ok,明白了 anonnius 于2021年1月13日周三 上午10:20写道: > 在 StreamExecutionEnvironmennt的方法@PublicEvolving public > void setStreamTimeCharacteristic(TimeCharacteristic characteristic) { > this.timeCharacteristic = > Preconditions.checkNotNull(characteristic); if > (characteristic

?????? flink waterMark ????????

2021-01-12 文章 Ball's Holy
master??200??1.10watermark --  -- ??: "user-zh"

?????? flink waterMark ????????

2021-01-12 文章 Ball's Holy
master??200??1.10watermark --  -- ??: ""

Re:Re: flink waterMark 相关问题

2021-01-12 文章 anonnius
在 StreamExecutionEnvironmennt的方法@PublicEvolving public void setStreamTimeCharacteristic(TimeCharacteristic characteristic) { this.timeCharacteristic = Preconditions.checkNotNull(characteristic); if (characteristic == TimeCharacteristic.ProcessingTime) {

Re: flink waterMark 相关问题

2021-01-12 文章 张锴
我从ExecutionConfig找到了,private long autoWatermarkInterval = 0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗 Ball's Holy <873925...@qq.com> 于2021年1月13日周三 上午9:42写道: > hi 张锴, > 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig > 对应的属性autoWatermarkInterval > > > > > -- 原始邮件 -

Re: flink waterMark 相关问题

2021-01-12 文章 张锴
ok,谢谢你 Ball's Holy <873925...@qq.com> 于2021年1月13日周三 上午9:42写道: > hi 张锴, > 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig > 对应的属性autoWatermarkInterval > > > > > -- 原始邮件 -- > 发件人: "anonnius" 发送时间: 2021年1月13日(星期三) 上午9:19 > 收件人: "user-zh" 主题: Re:flink w

Re: flink waterMark 相关问题

2021-01-12 文章 张锴
谢谢你 anonnius 于2021年1月13日周三 上午9:19写道: > 可以看一下 ExecutionConfig这个类 > 在 2021-01-12 17:55:47,"张锴" 写道: > >hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。 >

??????flink waterMark ????????

2021-01-12 文章 Ball's Holy
hi , 200flink.api.common.ExecutionConfig ??autoWatermarkInterval --  -- ??: "anonnius"

flink waterMark 相关问题

2021-01-12 文章 张锴
hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。

??flink??????watermark??????????????

2020-05-11 文章 1193216154
watermarkwatermark public void inputWatermark(Watermark watermark, int channelIndex) { // ignore the input watermark if its input channel, or all input channels are idle (i.e. overall the valve is idle).