Re: blink消费kafka出现诡异的情况,困扰很久了,哪位大佬知道怎么回事

2019-03-28 Thread 邓成刚【qq】
通过测试发现,不是sql 脚本的问题,是并行度的问题,30个并行度不行,改成5就OK了。。。 env.setParallelism(5);   发件人: 邓成刚【qq】 发送时间: 2019-03-26 18:17 收件人: user-zh 主题: blink消费kafka出现诡异的情况,困扰很久了,哪位大佬知道怎么回事 HI,各位大佬:       发现一个很诡异的问题:使用SQL API时,在窗口上group by,JOB 5分钟后会timeout,但如果改成select * 就能正常消费kafka。。。 说明:本地模式和提交JOB均存在此异常 相关信息: blink 1.5.1 ka

Flink Job 监控

2019-03-28 Thread cheng
各位好! 请教下各位,Flink Job 在生产上运行时,关于job运行状态的监控和告警一般是采用什么方案处理的? 比如监控job是否在正常运行,如果发现job 挂掉了 或者重启了 就进行告警。我这边有将一些metric 推到prometheus 但是好像没有发现关于job是否挂掉的metric。 希望有做过这种方案的朋友能赐教下,谢谢了!!

Flink Job 监控

2019-03-28 Thread cheng
各位好! 请教下各位,Flink Job 在生产上运行时,关于job运行状态的监控和告警一般是采用什么方案处理的? 比如监控job是否在正常运行,如果发现job 挂掉了 或者重启了 就进行告警。我这边有将一些metric 推到prometheus 但是好像没有发现关于job是否挂掉的metric。 希望有做过这种方案的朋友能赐教下,谢谢了!!

??????Flink Job ????

2019-03-28 Thread ????
??flinkclusterflink??job state,??yarn??yarn -- -- ??: "cheng"; : 2019??3??28??(??) 4:38 ??: "user-zh"; : Flink Job Flink Job ?

关于Blink 消费kafka并行度问题

2019-03-28 Thread 邓成刚【qq】
请教一下,Blink 消费kafka数据时,把并行度设置 30 ,就会出现Timeout,JOB跑不起来,应该是没有消费到数据,把并行度调 到 5就没问题,另外,JOB用到4个TOPic,每个30个PARTITION,但是把这同样JOB提交给FLINK 设置 30 并行度 就可以跑起来,有哪位大佬知道什么情况吗?

Re: Flink Job 监控

2019-03-28 Thread cheng
我们目前是用standalone 模式部署的集群,请问这个job state 有关于job是否挂掉或者重启的指标?我看官方文档好像没找到。 > 在 2019年3月28日,下午4:51,浪人 <1543332...@qq.com> 写道: > > 如果是使用flink集成cluster可以监控flink的job state,如果是yarn是超脱模式可以监控yarn的状态。 > > > > > -- 原始邮件 -- > 发件人: "cheng"; > 发送时间: 2019年3月28日(星期四) 下午4:38 > 收件人:

Re: Flink Job 监控

2019-03-28 Thread Biao Liu
Hi, 可以了解下 RESTful API https://ci.apache.org/projects/flink/flink-docs-release-1.7/monitoring/rest_api.html cheng 于2019年3月28日周四 下午5:08写道: > 我们目前是用standalone 模式部署的集群,请问这个job state 有关于job是否挂掉或者重启的指标?我看官方文档好像没找到。 > > > 在 2019年3月28日,下午4:51,浪人 <1543332...@qq.com> 写道: > > > > 如果是使用flink集成cluster可以监控fli

??????????????Flink????

2019-03-28 Thread ????
Flink???(Flinkjarweb??)

问下大家,有做好的blink的docker image镜像吗?能够共享下坐标或者dockerfile,谢谢

2019-03-28 Thread 陈韬
问下大家,有做好的blink的docker image镜像吗?能够共享下坐标或者dockerfile,谢谢

Re: blink开源版本维表关联时开启缓存方式

2019-03-28 Thread Kurt Young
Hi, Blink开源的时候把Cache的实现暂时拿掉了,你可以根据自己的需要自己实现一个cache。 Best, Kurt On Wed, Mar 27, 2019 at 4:44 PM 苏 欣 wrote: > 我在ppt里面看到这些内容,但是在开源的blink里面没有找到相关的配置,请问各位老师应该如何开启缓存策略? > > > > 发送自 Windows 10 版邮件 应用 > > >

请教一下Blink资源分配问题

2019-03-28 Thread 邓成刚【qq】
请教一下Blink资源分配问题: blink 任务并行度设置 20  提示0个满足:Batch request 40 slots, but only 0 are fulfilled. 调整到 3 并行度 提示:Batch request 6 slots, but only 4 are fulfilled., 但是我的TASK SLOTS有配 48,没有其它任务, 按理説没有资源问题啊,集群配置情况: 其它的都是默认配置: taskmanager.numberOfTaskSlots: 24 jobmanager.heap.size: 20480m # The heap size for

Re: 远程提交代码到Flink集群

2019-03-28 Thread Kaibo Zhou
可以用 flink 提供的 Restful API 接口,upload 上传 jar 包然后 run。 参考: https://ci.apache.org/projects/flink/flink-docs-stable/monitoring/rest_api.html#jars-upload 和 https://files.alicdn.com/tpsservice/a8d224d6a3b8b82d03aa84e370c008cc.pdf 文档的介绍 文报 <1010467...@qq.com> 于2019年3月28日周四 下午9:06写道: > 各位好! > > > 请教一下各

Re: 远程提交代码到Flink集群

2019-03-28 Thread Lifei Chen
有一个小巧的go cli, 支持直接部署jar包到flink manager上。 https://github.com/ing-bank/flink-deployer 希望能帮到你! Kaibo Zhou 于2019年3月29日周五 上午11:08写道: > 可以用 flink 提供的 Restful API 接口,upload 上传 jar 包然后 run。 > > 参考: > > https://ci.apache.org/projects/flink/flink-docs-stable/monitoring/rest_api.html#jars-upload > 和 http

?????? ??????????????Flink????

2019-03-28 Thread ????
-- -- ??: "Lifei Chen"; : 2019??3??29??(??) 11:10 ??: "user-zh"; : Re: ??Flink go cli, jarflink manager https://github.com/ing-bank/flink-deployer