flink ??????????????truncate table????

2021-08-16 文章 Asahi Lee
hi!      flink??truncate table??flink hivetruncate table??

flink 1.13.1??????????hive??????????insert overwirite??????????????????????????????????????????

2021-08-16 文章 Asahi Lee
hi??    ??sqlselect0??hive INSERT OVERWRITE target_table SELECT * from source_table where id > 10;

Re:回复:如何监控kafka延迟

2021-08-16 文章 RS
1. metric指标每次都会清0的2. 数据对账的话, 可以将每次的统计数据按时间点保存起来, 然后查询时间范围的时候, 做sum求和来对账 在 2021-08-09 09:51:43,"Jimmy Zhang" 写道: >您好,看到你们在用kafka相关metrics,我想咨询一个问题。你们是否遇见过在重启一个kafka sink >job后,相关指标清零的情况?这样是不是就无法持续的进行数据想加?我们想做一个数据对账,查询不同时间段的输出量统计,这样可能中间归零就有问题,所以想咨询下,任何的回复都非常感谢! > > > > >| >Best, >Jimmy >| > >Signat

Re:Re:Re: 请教下Flink时间戳问题

2021-08-16 文章 RS
T只是时间格式显示问题, 数据格式都是timestamp(3), 这个和T应该无关的 在 2021-08-16 13:45:12,"Geoff nie" 写道: >谢谢你!第二个问题确实是我版本太低问题,我flink版本是1.12.1。 >第一个问题,是因为我通过flink写入iceberg >表中,然后通过presto查询iceberg表,其他字段的表都可以查询,但是当写入的是含有TIMESTAMP 类型的表时,presto查询如下报错: > >Query failed (#20210816_020321_00011_wa8bs) in your-presto: Cannot conv

退订

2021-08-16 文章 610346212
退订

Flink On Yarn HA 部署模式下Flink程序无法启动

2021-08-16 文章 周瑞
您好:Flink程序部署在Yran上以Appliation Mode 模式启动的,在没有采用HA 模式的时候可以正常启动,配置了HA之后,启动异常,麻烦帮忙看下是什么原因导致的. HA 配置如下: high-availability: zookeeper high-availability.storageDir: hdfs://mycluster/flink/ha high-availability.zookeeper.quorum: zk-1:2181,zk-2:2181,zk-3:2181 high-availability.zookeeper.path.root: /flin

Re: Flink使用SQL注册UDF未来有规划吗

2021-08-16 文章 liwei li
你是指这个吗? CREATE [TEMPORARY|TEMPORARY SYSTEM] FUNCTION [IF NOT EXISTS] [catalog_name.][db_name.]function_name AS identifier [LANGUAGE JAVA|SCALA|PYTHON] 使用SQL注册UDF 详情见: https://ci.apache.org/projects/flink/flink-docs-release-1.13/docs/dev/table/sql/create/#create-function Ada Luna 于2021年8月16日

Re: FlinkSQL 反压 inputPoolUsage问题

2021-08-16 文章 Ada Luna
taskmanager.network.memory.buffers-per-channel 把这个参数从默认的2调整成5,反压的PoolUsage就和网上的文章一致了,这是为什么? Ada Luna 于2021年8月16日周一 下午4:17写道: > > 在网上看文章一般反压源头的inputPoolUsage应该是高的,其他被反压算子的inputPoolUsage也应该是高的。但是我最近发现的反压inputPoolUsage全是空,是Flink的反压机制就是这样,还是说这个版本的Metrics有问题。 > > Ada Luna 于2021年8月16日周一 下午4:16写道: > >

Re: FlinkSQL 反压 inputPoolUsage问题

2021-08-16 文章 Ada Luna
在网上看文章一般反压源头的inputPoolUsage应该是高的,其他被反压算子的inputPoolUsage也应该是高的。但是我最近发现的反压inputPoolUsage全是空,是Flink的反压机制就是这样,还是说这个版本的Metrics有问题。 Ada Luna 于2021年8月16日周一 下午4:16写道: > > 版本1.10.1 > 最近我观察很多FlinkSQL 任务的反压指标发现,反压为High算子的outputPoolUsage是满的 > inputPoolUsage是空,反压源头inputPoolUsage和outputPoolUsage都是空的,这是正常的嘛。

FlinkSQL 反压 inputPoolUsage问题

2021-08-16 文章 Ada Luna
版本1.10.1 最近我观察很多FlinkSQL 任务的反压指标发现,反压为High算子的outputPoolUsage是满的 inputPoolUsage是空,反压源头inputPoolUsage和outputPoolUsage都是空的,这是正常的嘛。