Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-18 文章 gimlee
是用的pushgateway方式上报嘛?
这种方式promethus要主动去删除上报的数据项才会变成0



--
Sent from: http://apache-flink.147419.n8.nabble.com/

Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-07 文章 bradyMk
Hi~Yun Tang大佬~

不是很理解为什么监控这个指标需要维护状态?该维护什么状态?怎么去维护呢?



-
Best Wishes
--
Sent from: http://apache-flink.147419.n8.nabble.com/

Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-06 文章 Yun Tang
Hi

可以使用 numRestarts [1] 
指标进行报警,不过需要维护状态,也就是该值增大时报警。对于旧版本Flink,可以使用以及废弃的fullRestarts 指标。


[1] 
https://ci.apache.org/projects/flink/flink-docs-stable/ops/metrics.html#availability

祝好
唐云

From: bradyMk 
Sent: Wednesday, January 6, 2021 18:57
To: user-zh@flink.apache.org 
Subject: Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

Hi~

我现在也有在用这个办法,可我任务特别多的话,还要求及时报警并发送消息到钉钉群到邮件,这种方法就不太好了



-
Best Wishes
--
Sent from: http://apache-flink.147419.n8.nabble.com/


Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-06 文章 bradyMk
Hi~

我现在也有在用这个办法,可我任务特别多的话,还要求及时报警并发送消息到钉钉群到邮件,这种方法就不太好了



-
Best Wishes
--
Sent from: http://apache-flink.147419.n8.nabble.com/

Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-06 文章 李继
可以尝试用yarn application -list 去定期查找你的任务来判断任务是否挂掉

bradyMk  于2021年1月6日周三 下午4:35写道:

> Hi,请教大家一个问题:
>
> 目前使用grafana监控flink的作业,想实现一个任务挂掉就报警的功能,初步想法是:监控checkpoint
> size的指标,一旦这个指标为0,就认为任务挂掉,但实际操作后,发现了两个问题:
>
> ① 如果kill掉任务,grafana上的flink所有指标都会一直保持最后接收到的值不变;
> ② 如果cancel掉任务,grafana上的flink所有指标都会突然中断;
>
> 所以,我上面说的想法永远都不会出发告警,因为这个checkpoint size的指标在任务挂掉也不会归为0值;
>
>
> 我又尝试了用一分钟前的job_uptime减去一分钟后的job_uptime,但是这样报警并不优雅,在任务刚启动时会有误报,因为任务刚启动时,一分钟前是没有数据的。
>
> 所以现在很疑惑,请教一下大家如果用grafana监控flink作业的,该选用什么样的指标和用什么规则,可以优雅的报警呢?
>
>
>
> -
> Best Wishes
> --
> Sent from: http://apache-flink.147419.n8.nabble.com/


flink作业通过grafana监控,若想发出报警该如何选择指标的问题

2021-01-06 文章 bradyMk
Hi,请教大家一个问题:

目前使用grafana监控flink的作业,想实现一个任务挂掉就报警的功能,初步想法是:监控checkpoint
size的指标,一旦这个指标为0,就认为任务挂掉,但实际操作后,发现了两个问题:

① 如果kill掉任务,grafana上的flink所有指标都会一直保持最后接收到的值不变;
② 如果cancel掉任务,grafana上的flink所有指标都会突然中断;

所以,我上面说的想法永远都不会出发告警,因为这个checkpoint size的指标在任务挂掉也不会归为0值;

我又尝试了用一分钟前的job_uptime减去一分钟后的job_uptime,但是这样报警并不优雅,在任务刚启动时会有误报,因为任务刚启动时,一分钟前是没有数据的。

所以现在很疑惑,请教一下大家如果用grafana监控flink作业的,该选用什么样的指标和用什么规则,可以优雅的报警呢?



-
Best Wishes
--
Sent from: http://apache-flink.147419.n8.nabble.com/