Re: Flink CDC2.2.1 设置server id范围

2022-10-31 Thread
ok, thx! Leonard Xu 于2022年10月31日周一 17:01写道: > > > 2022年10月31日 下午4:57,林影 写道: > > > > Hi, Leonard. > > > > 我也有类似的疑惑。 > > > > 有个线上的Flink Application之前配置的serverid 是 > > 6416-6418,并行度之前是3,后来缩容的时候并行度改成2了,在这种场景下serverid的范围需要进行调整吗? > > 缩容并不需要的,你

Re: Re: Flink CDC2.2.1 设置server id范围

2022-10-31 Thread
Hi, Leonard. 我也有类似的疑惑。 有个线上的Flink Application之前配置的serverid 是 6416-6418,并行度之前是3,后来缩容的时候并行度改成2了,在这种场景下serverid的范围需要进行调整吗? casel.chen 于2022年10月31日周一 16:50写道: > > > > > server-id配置范围对于后面修改并发度是不是不太友好?每改一次并发度就得重新调整server-id范围么?还是说先配置一个较大的server-id范围,在在这个较大的范围内调整并发度? > > > > > > > > > > > > 在

Re: 看了官方文档的Versioned Table,有一些小疑惑希望可以得到解答

2022-08-08 Thread
好的,明白了~,谢谢解答 Leonard Xu 于2022年8月9日周二 00:12写道: > > > > 2022年8月8日 下午3:34,林影 写道: > > > > 先上链接, Versioned Table > > < > https://nightlies.apache.org/flink/flink-docs-release-1.15/docs/dev/table/concepts/versioned_tables/ > > > > 从文档描述中可知,以Ups

看了官方文档的Versioned Table,有一些小疑惑希望可以得到解答

2022-08-08 Thread
先上链接, Versioned Table 从文档描述中可知,以Upsert-Kafka作为Source,以debezium或canal作为format时,可被认为是Versioned Table Source。 1. 那么flink cdc所提供的connector下,是否也可以被认定为一种Versioned Table Source? 2. Versioned Table

Re: flink sql解析kafka数据

2022-07-04 Thread
Hi, 'json.infer-schema.flatten-nested-columns.enable'='true' 这个参数不是属于社区Flink 的feature,是阿里云的vvr flink引擎才支持的参数。 JasonLee <17610775...@163.com> 于2022年7月5日周二 11:33写道: > Hi > 解析嵌套 JSON 可以参考这篇文章哈,https://mp.weixin.qq.com/s/KHVUlOsLSHPzCprRWSJYcA > > > Best > JasonLee > > > 回复的原邮件 > | 发件人 |

Re: 关于Flink1.15文档,有一些小疑惑求助

2022-04-25 Thread
vepoint恢复,两个作业同时跑,可能会造成结果的重复或者不一致,这个时候最好丢弃掉sink(换uid)。对于只有一个作业运行的情况,比如停了作业再恢复,是不会有问题的。 > > 林影 于2022年4月22日周五 17:05写道: > > > 在Flink 官网savepoint的页面中,出现下面一段话 > > Starting from Flink 1.15 intermediate savepoints (savepoints other than > > created with stop-with-savepoint >

关于Flink1.15文档,有一些小疑惑求助

2022-04-22 Thread
在Flink 官网savepoint的页面中,出现下面一段话 Starting from Flink 1.15 intermediate savepoints (savepoints other than created with stop-with-savepoint ) are not used for recovery and do not commit any

Re: Re: 社区有人实现过Flink的MongodbSource吗?

2021-02-24 Thread
请问flink的mongodb connector这块后续有计划吗 Evan 于2021年2月24日周三 下午5:08写道: > 好的,十分感谢,我调研一下,之前网上搜了一些资料,实现的只能批量读取,读完程序就停止了,不能一直实时的增量读取 > > > > > 发件人: Paul Lam > 发送时间: 2021-02-24 17:03 > 收件人: user-zh > 主题: Re: 社区有人实现过Flink的MongodbSource吗? > Hi, > > Debezium 支持 MongoDB CDC[1],可以了解下。 > > [1]

Re: kafka 所有分区无数据的情况下,导致watermark无法前进

2021-01-28 Thread
Hi,刘小红: 这个我查阅过,实验过,通过idle source 是无法解决的。 可以查看这个链接:http://apache-flink.147419.n8.nabble.com/Flink-SQL-td4535.html 在我的这个场景里面,上游已经配置了idle source,上游如果突然没有数据了,下游的flink 窗口还是无法关闭输出结果。 这个说明idle source 无法解决这个问题 刘小红 <18500348...@163.com> 于2021年1月28日周四 下午3:01写道: >

Re: kafka 所有分区无数据的情况下,导致watermark无法前进

2021-01-27 Thread
实际生产环境下,我们这边业务要求用event time wpp <1215303...@qq.com> 于2021年1月28日周四 下午2:54写道: > 可以按照proceeTime来处理吧 > > > > -- > Sent from: http://apache-flink.147419.n8.nabble.com/ >

kafka 所有分区无数据的情况下,导致watermark无法前进

2021-01-27 Thread
Hi Everyone, 有个关于watermark问题请教, watermark是根据event的event time往前推进的,如果上游无数据,导致watermark没有前进,这种情况下应该如何处理呢?

Re: SQL作业的提交方式

2021-01-07 Thread
zeppelin 0.9 已经可以充当flink的job server角色了? 上次看jeff zhang在云栖大会说的是后面有这个规划,现在已经可以是用来? Peihui He 于2021年1月8日周五 上午9:21写道: > 可以尝试下zeppelin 0.9 > http://zeppelin.apache.org/ > > > jiangjiguang719 于2021年1月7日周四 下午8:34写道: > > > 目前我司的SQL作业的提交 还是使用的 Jark 老师的 flink-sql-submit 项目,想问下: > > 1、有没有更好的SQL作业的提交方式? >

RT,如何动态提交管理Flink Job

2020-11-03 Thread
正如Apache Livy可以通过RestAPI 提交job一样,Flink有类似的方式吗? 我们的场景现在是根据业务条件可以转化成Flink SQL,想使用和livy类似的方式动态提交Job,社区有人实践过吗

请问现在Flink支持动态扩缩容吗?

2020-10-19 Thread
请问现在Flink支持动态扩缩容吗,或者说社区在这方面有什么计划吗?