大家好!关于 Flink CDC 打宽表有如下疑问:
启动一个任务后,刚开始个字段是有值的。但跑一段时间或者跨天后,字段无缘无故是null值了。用其他引擎跑数据却是正常的。
比如第一天启动任务,A字段是有值的。但是第二天发现A字段全部是NULL值了。但用presto查询却是正常的。但我猜测是不是和TTL设置有关系呢?我设置了1天。
今天线上 Flink 1.13.2 作业遇到如下报错,请问是何原因,要如何解决?
作业内容是从kafka topic消费canal json数据写到另一个mysql库表
2022-09-17 19:40:03,088 ERROR akka.remote.Remoting
[] - Association to [akka.tcp://flink-metrics@172.19.193.15:34101]
with UID [-633015504] irrecoverably failed.
Hi, 应该会等到下一次做cp的时候再提交
在 2022-11-01 17:13:22,"郑 致远" 写道:
>大佬们好.
>flink exactly once 写kafka,如果flink
>checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢?
>kafka的transaction因为超时,abort后, 会导致abort之前写kafka的数据,丢失吗?
Himap
?? 2022-10-31 10:47:42??"" <289108...@qq.com.INVALID> ??
>??pojo??mapuion??
>
>
>
>piao289108...@vip.qq.com
>
>
>
>
大佬们好.
flink exactly once 写kafka,如果flink
checkpoint超时了导致kafka的transaction在commit之前也超时了, flink会怎么处理呢?
kafka的transaction因为超时,abort后, 会导致abort之前写kafka的数据,丢失吗?
Hi team,
I had starting the SQL Gateway with the HiveServer2 Endpoint, and then I
submit SQL with Apache Hive Beeline, but I get the following exception:
java.lang.UnsupportedOperationException: Unrecognized TGetInfoType value:
CLI_ODBC_KEYWORDS.
at
退订
发自我的 iPhone
> 在 2022年10月28日,11:41,Weihua Hu 写道:
>
> Hi, Young
>
> 你的分析是正确的。Flink kubernetes operator 是通过 rest service 来跟 Flink cluster
> 通信的,Kubernetes 会随机将发往 service 的请求路由到后端的多个 JM Pod
> 上。任务提交流程分为了:uploadJar,runJob,deleteJar 三个 API,所以会在 opeartor 的日志里看到相关的错误。
>
> 也许你可以创建一个 jira issue
1.all to all的边的话,你这个例子把并发降下来肯定连接数要少很多的。 slot
sharing的话也只会把A和B相同并发的share在一起,连接其他的subtask A还是要建立连接。
2.指的是作业jar,每个TM只会下载一次
Best regards,
Weijie
yidan zhao 于2022年10月31日周一 19:54写道:
> 嗯,问题1我主要是在想,这种复杂的连接关系,会不会增大Sending the partition request to '...'
> failed;这种异常的概率。
>