Re: Flink Sql表概念

2021-10-31 文章 liwei li
*Temporal(dynamic) Table*: Temporal table is a table that evolves over time as known as Flink *dynamic table *, rows in temporal table are associated with one or more

Re: 关于作业失败从checkpoint重启,触发了过期的窗口计算

2021-10-31 文章 liwei li
我是指添加ContinuousProcessingTimeTrigger或者ContinuousEventTimeTrigger。 这个不见得能解决你当前的问题,只是每隔一段时间触发一下窗口计算,得到一个中间结果缓存起来,无需等窗口结束再计算总量。 claylin <1012539...@qq.com.invalid> 于2021年10月31日周日 下午4:33写道: > 添加continue trigger怎么理解 > > > > > --原始邮件-- > 发件人: >

Re: 关于作业失败从checkpoint重启,触发了过期的窗口计算

2021-10-30 文章 liwei li
可以试试添加使用Continuou Trigger Yun Tang 于2021年10月29日周五 下午5:56写道: > Hi, > > 先问个版本问题,你的Flink版本是1.3 而不是1.13? > > > Checkpoint里面会存储timer,所以重启之后会触发窗口的计算,但确实这种一天的窗口累计有点太多了,除非你的作业存在比较严重的反压,导致checkpoint内积攒了大量没有触发的timer。 > > 祝好 > 唐云 > > > From: claylin

Re: 增量checkpoint是否可以用来恢复flink作业

2021-10-30 文章 liwei li
增量checkpoint是可以恢复作业的。 Flink 的增量 checkpoint 以 RocksDB 的 checkpoint 为基础。RocksDB 是一个 LSM 结构的 KV > 数据库,把所有的修改保存在内存的可变缓存中(称为 memtable),所有对 memtable 中 key 的修改,会覆盖之前的 value,当前 > memtable 满了之后,RocksDB 会将所有数据以有序的写到磁盘。当 RocksDB 将 memtable > 写到磁盘后,整个文件就不再可变,称为有序字符串表(sstable)。 > RocksDB 的后台压缩线程会将 sstable

Re: Flink使用SQL注册UDF未来有规划吗

2021-08-16 文章 liwei li
你是指这个吗? CREATE [TEMPORARY|TEMPORARY SYSTEM] FUNCTION [IF NOT EXISTS] [catalog_name.][db_name.]function_name AS identifier [LANGUAGE JAVA|SCALA|PYTHON] 使用SQL注册UDF 详情见: https://ci.apache.org/projects/flink/flink-docs-release-1.13/docs/dev/table/sql/create/#create-function Ada Luna

Re: $internal.yarn.log-config-file

2021-08-03 文章 liwei li
在我们的生产环境中使用YarnClient和YarnClusterDescriptor等api往yarn提交flink任务,此时我们使用 YarnConfigOptionsInternal里面的APPLICATION_LOG_CONFIG_FILE 来给 每一个任务设置它单独的log4j配置文件路径 Caizhi Weng 于2021年7月30日周五 上午11:02写道: > Hi! > > 实际上 yarn log config file 所在的 config 目录可以通过 FLINK_CONF_DIR > 这个环境变量指定。不过这要求客户端的 FLINK_CONF_DIR

flink可以同时对接两套独立kerberos认证的kafka吗

2021-02-19 文章 liwei li
请问flink是否可以从开启了kerberos的kafka接收数据后,发送到另一个Kerberos认证的kafka,源端和目标端的Kerberos相互独立且不能建立互信。 非常感谢! liwei li 邮箱:hilili...@gmail.com 签名由 网易邮箱大师 定制