该任务有时候正常,偶尔反压。
最近观察发现,反压时,kafkaSouce节点100%反压到停滞,后续算子什么也收不到,任务整体停滞。
这类错误遇到过很多次了,目前我生产中flink有个很大问题就是这些稳定性,压力大不是需要时间去追赶,而是压力一大就整体处于停滞状态。
你可以先结合你的任务逻辑,以及 Flink Web UI 反压监控,看看到底是什么地方引起反压。
一般 source 反压,是下游的算子一直反压到 source。可以看看那个算子引起
Best,
LakeShen
yidan zhao 于2021年6月8日周二 上午10:28写道:
> 该任务有时候正常,偶尔反压。
> 最近观察发现,反压时,kafkaSouce节点100%反压到停滞,后续算子什么也收不到,任务整体停滞。
>
> 这类错误遇到过很多次了,目前我生产中flink有个很大问题就是这些稳定性,压力大不是需要时间去追赶,而是压力一大就整体处于停滞状态。
>
正常的反压遇到过很多,也解决过很多。 但我现在这个问题类似的也是很多次了,很奇怪。就是反压到CPU利用率反而成0,就是不工作了。
LakeShen 于2021年6月8日周二 上午10:37写道:
>
> 你可以先结合你的任务逻辑,以及 Flink Web UI 反压监控,看看到底是什么地方引起反压。
> 一般 source 反压,是下游的算子一直反压到 source。可以看看那个算子引起
>
> Best,
> LakeShen
>
>
> yidan zhao 于2021年6月8日周二 上午10:28写道:
>
> > 该任务有时候正常,偶尔反压。
> > 最近观察发现,反压时,
掐头去尾的提问,完全不知道是什么问题,没法回答你,最好是贴出代码,贴出图片等大家才能帮忙分析
--
Sent from: http://apache-flink.147419.n8.nabble.com/
反压也可能是下游IO跟不上造成的啊,严重的话上游确实就不工作了呗
在 2021-06-08 11:11:34,"yidan zhao" 写道:
>正常的反压遇到过很多,也解决过很多。 但我现在这个问题类似的也是很多次了,很奇怪。就是反压到CPU利用率反而成0,就是不工作了。
>
>LakeShen 于2021年6月8日周二 上午10:37写道:
>>
>> 你可以先结合你的任务逻辑,以及 Flink Web UI 反压监控,看看到底是什么地方引起反压。
>> 一般 source 反压,是下游的算子一直反压到 source。可以看看那个算子引起
>>
>> Best,
>> L
怎么说的,这个应该不是代码层面的问题,所以感觉贴代码意义不大。
我是想看有没有类似的什么idea,什么情况可能呈现类似现象。 就是直接停滞了,我发现的时候所有算子都非反压,只要source处于反压状态。
然后source到下一个算子直接的records sent和records received数量已经彻底不变(眼看好几分钟也不变)。
HunterXHunter <1356469...@qq.com> 于2021年6月8日周二 上午11:13写道:
>
> 掐头去尾的提问,完全不知道是什么问题,没法回答你,最好是贴出代码,贴出图片等大家才能帮忙分析
>
>
>
> --
> Sent fr
1.不知道这边有没有flink数据链路监控
2.flink反压可能有以下几种原因:
数据倾斜
TaskManager配置内存太小,导致full gc
checkpoint太慢
状态太大
在 2021-06-08 10:36:49,"LakeShen" 写道:
>你可以先结合你的任务逻辑,以及 Flink Web UI 反压监控,看看到底是什么地方引起反压。
>一般 source 反压,是下游的算子一直反压到 source。可以看看那个算子引起
>
>Best,
>LakeShen
>
>
>yidan zhao 于2021年6月8日周二 上午10:28
之前遇到过在sink到kudu的时候出现反压很严重,主要原因是测试数据不当的问题,根据我的经验,比较多的是下游io瓶颈,可以到sink组件的日志查看问题
-- 原始邮件 --
发件人: yidan zhao http://apache-flink.147419.n8.nabble.com/
目前遇到个报错,这个有人看得懂不。
org.apache.flink.runtime.io.network.netty.exception.LocalTransportException:
readAddress(..) failed: Connection timed out (connection to
'10.35.213.143/10.35.213.143:2008')
at
org.apache.flink.runtime.io.network.netty.CreditBasedPartitionRequestClientHandler.exceptionCaught(C