Re: 关于Table API 或 SQL 如何设置水印的疑问?

2023-05-30 文章 yidan zhao
你在hive的catalog中定义表的时候就可以定义好event time,以及watermark呀。 ZhaoShuKang 于2023年5月25日周四 08:53写道: > > 各位老师好,我最近在做Flink查询Hive的功能,需要用到窗口处理数据,在编写代码过程中无法设置水印,我看官网看到Table API & SQL > 设置事件时间有三种方式: > 1、在 DDL 中定义 > 2、在 DataStream 到 Table 转换时定义 > 3、使用 TableSource 定义 > 而我使用的是HiveCatalog查询hive,貌似用不上以上三种方式。所以我想问问各位老师,

Re: flink 输出异常数据

2023-05-30 文章 yidan zhao
这个得靠你自己打日志吧,在可能出NPE的地方 try catch 到,然后打印原始记录。 小昌同学 于2023年5月29日周一 18:30写道: > > 你好,数据源是kafka,使用的是stream api > > > | | > 小昌同学 > | > | > ccc0606fight...@163.com > | > 回复的原邮件 > | 发件人 | Weihua Hu | > | 发送日期 | 2023年5月29日 15:29 | > | 收件人 | | > | 主题 | Re: flink 输出异常数据 | > Hi, > > 你使用的数据源是什么呢?Kaf

Re: flink jdbcsink 连接数的问题

2023-05-30 文章 yidan zhao
你好,这个问题和flink无关,看你主键实现机制吧,如果是自增,那就是mysql级别自动实现的自增,跟flink搭不上关系的。 小昌同学 于2023年5月31日周三 09:41写道: > > 老师,你好,再请教一下,连接数与并行度有关系的话,如果插入数据的MySQL是有主键的话,是不是连接数据也就是并行度只能为1啦呀,如果是多个并行度的话,可能会造成主键冲突; > 感谢各位老师的指导 > > > | | > 小昌同学 > | > | > ccc0606fight...@163.com > | > 回复的原邮件 > | 发件人 | lxk | > | 发送日期 | 20

Re: flink web ui显示问题

2023-05-30 文章 yidan zhao
没发现你web ui哪里显示了watermark呢? 小昌同学 于2023年5月31日周三 10:22写道: > > 你好,老师,感谢回复,我这边将截图放在了腾讯文档中,请查收; > 感谢各位老师的指导 > 【腾讯文档】flink web ui > https://docs.qq.com/sheet/DYkZ0Q0prRWJxcER4?tab=BB08J2 > > > | | > 小昌同学 > | > | > ccc0606fight...@163.com > | > 回复的原邮件 > | 发件人 | Shammon FY | > | 发送日期 | 2023年5月31

回复: flink web ui显示问题

2023-05-30 文章 小昌同学
你好,老师,感谢回复,我这边将截图放在了腾讯文档中,请查收; 感谢各位老师的指导 【腾讯文档】flink web ui https://docs.qq.com/sheet/DYkZ0Q0prRWJxcER4?tab=BB08J2 | | 小昌同学 | | ccc0606fight...@163.com | 回复的原邮件 | 发件人 | Shammon FY | | 发送日期 | 2023年5月31日 09:59 | | 收件人 | | | 主题 | Re: flink web ui显示问题 | Hi, 好像没有收到附件或者文档,你可以检查确认一下 Best, S

Re: flink web ui显示问题

2023-05-30 文章 Shammon FY
Hi, 好像没有收到附件或者文档,你可以检查确认一下 Best, Shammon FY On Wed, May 31, 2023 at 9:52 AM 小昌同学 wrote: > 各位老师好,请教一个关于flink web ui的显示问题; > 具体的显示异常截图的我以附件的形式放在文档中,我的疑惑是web > ui上面已经显示watermark,但是看detail的时候显示不是watermark; > 感谢各位老师指导 > > 小昌同学 > ccc0606fight...@163.com > >

flink web ui显示问题

2023-05-30 文章 小昌同学
各位老师好,请教一个关于flink web ui的显示问题; 具体的显示异常截图的我以附件的形式放在文档中,我的疑惑是web ui上面已经显示watermark,但是看detail的时候显示不是watermark; 感谢各位老师指导 | | 小昌同学 | | ccc0606fight...@163.com |

回复:flink jdbcsink 连接数的问题

2023-05-30 文章 小昌同学
老师,你好,再请教一下,连接数与并行度有关系的话,如果插入数据的MySQL是有主键的话,是不是连接数据也就是并行度只能为1啦呀,如果是多个并行度的话,可能会造成主键冲突; 感谢各位老师的指导 | | 小昌同学 | | ccc0606fight...@163.com | 回复的原邮件 | 发件人 | lxk | | 发送日期 | 2023年5月30日 14:30 | | 收件人 | | | 主题 | Re:flink jdbcsink 连接数的问题 | hi, jdbc创建链接是在SimpleJdbcConnectionProvider这个类中实现的,至于真正创建链接

回复:flink jdbcsink 连接数的问题

2023-05-30 文章 小昌同学
好滴呀 谢谢老师指导 | | 小昌同学 | | ccc0606fight...@163.com | 回复的原邮件 | 发件人 | lxk | | 发送日期 | 2023年5月30日 14:30 | | 收件人 | | | 主题 | Re:flink jdbcsink 连接数的问题 | hi, jdbc创建链接是在SimpleJdbcConnectionProvider这个类中实现的,至于真正创建链接,则是由DriverManager来处理。 关于连接数,则是跟你的并行度有关。 在 2023-05-30 13:55:57,"小昌同学"