Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题
可以尝试用yarn application -list 去定期查找你的任务来判断任务是否挂掉 bradyMk 于2021年1月6日周三 下午4:35写道: > Hi,请教大家一个问题: > > 目前使用grafana监控flink的作业,想实现一个任务挂掉就报警的功能,初步想法是:监控checkpoint > size的指标,一旦这个指标为0,就认为任务挂掉,但实际操作后,发现了两个问题: > > ① 如果kill掉任务,grafana上的flink所有指标都会一直保持最后接收到的值不变; > ② 如果cancel掉任务,grafana上的flink所有指标都会突然中断; > > 所以,我上面说的想法永远都不会出发告警,因为这个checkpoint size的指标在任务挂掉也不会归为0值; > > > 我又尝试了用一分钟前的job_uptime减去一分钟后的job_uptime,但是这样报警并不优雅,在任务刚启动时会有误报,因为任务刚启动时,一分钟前是没有数据的。 > > 所以现在很疑惑,请教一下大家如果用grafana监控flink作业的,该选用什么样的指标和用什么规则,可以优雅的报警呢? > > > > - > Best Wishes > -- > Sent from: http://apache-flink.147419.n8.nabble.com/
Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题
Hi~ 我现在也有在用这个办法,可我任务特别多的话,还要求及时报警并发送消息到钉钉群到邮件,这种方法就不太好了 - Best Wishes -- Sent from: http://apache-flink.147419.n8.nabble.com/
Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题
Hi 可以使用 numRestarts [1] 指标进行报警,不过需要维护状态,也就是该值增大时报警。对于旧版本Flink,可以使用以及废弃的fullRestarts 指标。 [1] https://ci.apache.org/projects/flink/flink-docs-stable/ops/metrics.html#availability 祝好 唐云 From: bradyMk Sent: Wednesday, January 6, 2021 18:57 To: user-zh@flink.apache.org Subject: Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题 Hi~ 我现在也有在用这个办法,可我任务特别多的话,还要求及时报警并发送消息到钉钉群到邮件,这种方法就不太好了 - Best Wishes -- Sent from: http://apache-flink.147419.n8.nabble.com/
Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题
Hi~Yun Tang大佬~ 不是很理解为什么监控这个指标需要维护状态?该维护什么状态?怎么去维护呢? - Best Wishes -- Sent from: http://apache-flink.147419.n8.nabble.com/
Re: flink作业通过grafana监控,若想发出报警该如何选择指标的问题
是用的pushgateway方式上报嘛? 这种方式promethus要主动去删除上报的数据项才会变成0 -- Sent from: http://apache-flink.147419.n8.nabble.com/