关于配置关联初始化方案的实现问题

2021-01-31 Thread javenjiangfsof
Hi 社区的各位 最近也是刚刚开始接触flink,现在是有这样的一个需求,主流是来自于kafka,需要关联的配置来自于mysql,由于配置会发生新增更新删除的操作,所以使用cdc + broadcaststate来做配置的关联,但是这会存在一个广播流的初始化问题,我看了网上和社区中其他关于broadcaststate这个问题的回复,大概有一下两种解决方案: 1.初始化通过jdbc获取,通过fromCollection处理后,union cdc过来的配置流,这个经过测试确实可以解决,但是会有疑惑:通过fromCollection处理的内存的数据一定会比kafka,cdc过来的数

Re: 关于配置关联初始化方案的实现问题

2021-01-31 Thread javenjiangfsof
到配置 在 2021年2月1日 13:30,赵一旦 写道: FlinkSQL ? javenjiangfsof 于2021年2月1日周一 上午11:40写道: > Hi 社区的各位 > > 最近也是刚刚开始接触flink,现在是有这样的一个需求,主流是来自于kafka,需要关联的配置来自于mysql,由于配置会发生新增更新删除的操作,所以使用cdc > + > broadcaststate来做配置的关联,但是这会存在一个广播流的初始化问题,我看了网上和社区中其他关于broadcaststate这个问题的回复,大概有一下两种解决方案: >

Re: 关于配置关联初始化方案的实现问题

2021-01-31 Thread javenjiangfsof
("flinkpw") .deserializer(new StringDebeziumDeserializationSchema()) // converts SourceRecord to String .build(); ``` 在 2021年2月1日 14:07,赵一旦 写道: 我没发现官网没看到DataStream有cdc的connector貌似,你是怎么搞的呢。 javenjiangfsof 于2021年2月1日周一 下午1:40写道: > DataStream API,像下面这样 > ``` > val l