Re: flink 触发保存点失败

2021-07-27 文章 龙逸尘
Hi, 之前遇到过这个 jobid 为 0 的报错情况。我们的场景是是任务开启了基于 zk 的 ha,但是使用未配置 ha 的 flink client 去运行 savepoint 命令。 可以考虑下是否是相同的问题。 Michael Ran 于2021年7月23日周五 上午10:43写道: > 有没可能是文件的问题,比如写入权限之类的? > 在 2021-07-13 17:31:19,"仙剑……情动人间" <1510603...@qq.com.INVALID> 写道: > >Hi All, > > > > > >    我触发Flink > 保存点总是失败,报错如下,一直说

Re: 如何监控kafka延迟

2021-07-27 文章 龙逸尘
Hi comsir, 采用 kafka 集群元数据 的 offset 信息和当前 group offset 相减得到的 lag 是比较准确的。 group id 需要自己维护。 comsir <609326...@qq.com.invalid> 于2021年7月20日周二 下午12:41写道: > hi all > 以kafka为source的flink任务,各位都是如何监控kafka的延迟情况?? > 监控这个延迟的目的:1.大盘展示,2.延迟后报警 > 小问题: > 1.发现flink原生的相关metric指标很多,研究后都不是太准确,大家都用哪个指标? > 2.怎么获取group

退订

2021-07-27 文章 赵珠峰
退订 本邮件载有秘密信息,请您恪守保密义务。未经许可不得披露、使用或允许他人使用。谢谢合作。 This email contains confidential information. Recipient is obliged to keep the information confidential. Any unauthorized disclosure, use, or distribution of the information in this email is strictly prohibited. Thank you.

退订

2021-07-27 文章 morris996
退订 | | morris996 | | morris...@163.com | 签名由网易邮箱大师定制

Re: Flink 1.10 内存问题

2021-07-27 文章 Ada Luna
最后我发现问题的根源是双流JOIN没设置TTL。双流JOIN task的 OutputBuffer会被打满。然后Flink就处于假死状态了。不再消费任何数据。 Ada Luna 于2021年7月19日周一 下午7:06写道: > > 异步IO的Order队列打满,导致算子卡死? > > Ada Luna 于2021年7月19日周一 下午2:02写道: > > > > 我通过反压信息观察到,这个 async wait operator > > 算子上游全部出现严重反压。很有可能是这个算子死锁或者死循环等类似问题。但是我还不知道如何进一步排查。 > > > > "async wait op

回复:flink k8s部署使用s3做HA问题

2021-07-27 文章 johnjlong
Caused by: java.lang.ClassNotFoundException: com.amazonaws.services.s3.model.AmazonS3Exception | | johnjlong | | johnjl...@163.com | 签名由网易邮箱大师定制 在2021年7月27日 15:18,maker_d...@foxmail.com 写道: 各位开发者: 大家好! 我在使用flink native Kubernetes方式部署,使用minio做文件系统,配置如下: state.backend: filesystem fs.allowed-fallb

flink 1.13.1 ????hive??????????hive sql????????

2021-07-27 文章 Asahi Lee
Hi?? ??flink 1.13.1??hive sql?? CREATE CATALOG `tempo_df_hive_default_catalog` WITH(     'type' = 'hive',     'default-database' = 'default' ); USE CATALOG tempo_df_hive_default_catalog; CREATE TABLE IF NOT EXISTS `default`.`tempo_blackhole_table` (    f0 INT ); use cosldatacenter;

退订

2021-07-27 文章 hihl
退订

flink k8s部署使用s3做HA问题

2021-07-27 文章 maker_d...@foxmail.com
各位开发者: 大家好! 我在使用flink native Kubernetes方式部署,使用minio做文件系统,配置如下: state.backend: filesystem fs.allowed-fallback-filesystems: s3 s3.endpoint: http://172.16.14.40:9000 s3.path-style: true s3.access-key: admin s3.secret-key: admin123 contai