Flink CDC 打宽表

2022-11-01 文章 Fei Han
大家好!关于 Flink CDC 打宽表有如下疑问: 启动一个任务后,刚开始个字段是有值的。但跑一段时间或者跨天后,字段无缘无故是null值了。用其他引擎跑数据却是正常的。 比如第一天启动任务,A字段是有值的。但是第二天发现A字段全部是NULL值了。但用presto查询却是正常的。但我猜测是不是和TTL设置有关系呢?我设置了1天。

Remote system has been silent for too long. (more than 48.0 hours)

2022-11-01 文章 casel.chen
今天线上 Flink 1.13.2 作业遇到如下报错,请问是何原因,要如何解决? 作业内容是从kafka topic消费canal json数据写到另一个mysql库表 2022-09-17 19:40:03,088 ERROR akka.remote.Remoting [] - Association to [akka.tcp://flink-metrics@172.19.193.15:34101] with UID [-633015504] irrecoverably failed.

Re:flink exactly once 写kafka,如果checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢?

2022-11-01 文章 Xuyang
Hi, 应该会等到下一次做cp的时候再提交 在 2022-11-01 17:13:22,"郑 致远" 写道: >大佬们好. >flink exactly once 写kafka,如果flink >checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢? >kafka的transaction因为超时,abort后, 会导致abort之前写kafka的数据,丢失吗?

Re:????????????????????????????

2022-11-01 文章 Xuyang
Himap ?? 2022-10-31 10:47:42??"" <289108...@qq.com.INVALID> ?? >??pojo??mapuion?? > > > >piao289108...@vip.qq.com > > > >

flink exactly once 写kafka,如果checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢?

2022-11-01 文章 郑 致远
大佬们好. flink exactly once 写kafka,如果flink checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢? kafka的transaction因为超时,abort后, 会导致abort之前写kafka的数据,丢失吗?

【SQL Gateway - HiveServer2】UnsupportedOperationException: Unrecognized TGetInfoType value: CLI_ODBC_KEYWORDS.

2022-11-01 文章 QiZhu Chan
Hi team, I had starting the SQL Gateway with the HiveServer2 Endpoint, and then I submit SQL with Apache Hive Beeline, but I get the following exception: java.lang.UnsupportedOperationException: Unrecognized TGetInfoType value: CLI_ODBC_KEYWORDS. at

Re: Flink k8s operator高可用部署Flink Session Cluster,提交job遇到异常。

2022-11-01 文章 汪赟
退订 发自我的 iPhone > 在 2022年10月28日,11:41,Weihua Hu 写道: > > Hi, Young > > 你的分析是正确的。Flink kubernetes operator 是通过 rest service 来跟 Flink cluster > 通信的,Kubernetes 会随机将发往 service 的请求路由到后端的多个 JM Pod > 上。任务提交流程分为了:uploadJar,runJob,deleteJar 三个 API,所以会在 opeartor 的日志里看到相关的错误。 > > 也许你可以创建一个 jira issue

Re: 关于LocalTransportException的优化方向咨询

2022-11-01 文章 weijie guo
1.all to all的边的话,你这个例子把并发降下来肯定连接数要少很多的。 slot sharing的话也只会把A和B相同并发的share在一起,连接其他的subtask A还是要建立连接。 2.指的是作业jar,每个TM只会下载一次 Best regards, Weijie yidan zhao 于2022年10月31日周一 19:54写道: > 嗯,问题1我主要是在想,这种复杂的连接关系,会不会增大Sending the partition request to '...' > failed;这种异常的概率。 >