Hi
使用withTimestampAssigner只是定义了生成watermark消息的策略,不会影响数据流。超出指定时间的数据是否处理,可以在定义window的时候使用allowedLateness定义最晚的late
event,超出这个时间的窗口数据会直接丢弃
Best,
Shammon FY
On Sat, Mar 25, 2023 at 12:28 AM crazy <2463829...@qq.com.invalid> wrote:
> 大佬好,如下程序,flink在生成watermark策略中,forBoundedOutOfOrderness
> 这个乱序时长的指定会不
flink 版本1.12.2,在看官方文档介绍watermark时,看到一句话
*标题是:单调递增时间戳分配器*
注意:在 Flink 应用程序中,如果是并行数据源,则只要求并行数据源中的每个*单分区数据源任务*时间戳递增。例如,设置每一个并行数据源实例都只读取一个
Kafka 分区,则时间戳只需在每个 Kafka 分区内递增即可。Flink 的 watermark
合并机制会在并行数据流进行分发(shuffle)、联合(union)、连接(connect)或合并(merge)时生成正确的 watermark。
请问一下报红的部分在官方文档哪里描述了,我没有找到,有人能给指一下吗?
hi,我通过webUI查看了当前的程序,watermark变为-2,一直没变过,出现这种情况是什么原因,一头雾水。截图在附件里,帮忙分析一下。
private long autoWatermarkInterval = 200;
/**
* Interval in milliseconds for sending latency tracking marks from
the sources to the sinks.
*/
张锴 于2021年1月13日周三 上午10:26写道:
> ok,明白了
>
> anonnius 于2021年1月13日周三 上午10:20写道:
>
> > 在 StreamExecutionEnvironmennt的方法@PublicEvolving public
> > voi
ok,明白了
anonnius 于2021年1月13日周三 上午10:20写道:
> 在 StreamExecutionEnvironmennt的方法@PublicEvolving public
> void setStreamTimeCharacteristic(TimeCharacteristic characteristic) {
> this.timeCharacteristic =
> Preconditions.checkNotNull(characteristic); if
> (characteristic
master??200??1.10watermark
-- --
??:
"user-zh"
master??200??1.10watermark
-- --
??: ""
在 StreamExecutionEnvironmennt的方法@PublicEvolving public void
setStreamTimeCharacteristic(TimeCharacteristic characteristic) {
this.timeCharacteristic = Preconditions.checkNotNull(characteristic);
if (characteristic == TimeCharacteristic.ProcessingTime) {
我从ExecutionConfig找到了,private long autoWatermarkInterval =
0,并不是200毫秒,这个代表一个时间戳就代表一个watermark是吗
Ball's Holy <873925...@qq.com> 于2021年1月13日周三 上午9:42写道:
> hi 张锴,
> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> 对应的属性autoWatermarkInterval
>
>
>
>
> -- 原始邮件 -
ok,谢谢你
Ball's Holy <873925...@qq.com> 于2021年1月13日周三 上午9:42写道:
> hi 张锴,
> 如果我没记错的话,默认时间间隔是200毫秒,具体设置细节可以看flink.api.common.ExecutionConfig
> 对应的属性autoWatermarkInterval
>
>
>
>
> -- 原始邮件 --
> 发件人: "anonnius" 发送时间: 2021年1月13日(星期三) 上午9:19
> 收件人: "user-zh" 主题: Re:flink w
谢谢你
anonnius 于2021年1月13日周三 上午9:19写道:
> 可以看一下 ExecutionConfig这个类
> 在 2021-01-12 17:55:47,"张锴" 写道:
> >hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
>
hi ,
200flink.api.common.ExecutionConfig
??autoWatermarkInterval
-- --
??: "anonnius"
hi,我使用的flink版本是1.10,我想问一下watermark的默认时间间隔是多少,以及所对应的源码位置在哪里,我并没有找到。
watermarkwatermark
public void inputWatermark(Watermark watermark, int channelIndex) {
// ignore the input watermark if its input channel, or all
input channels are idle (i.e. overall the valve is idle).
14 matches
Mail list logo