退订

2021-04-23 文章 shao.hongxiao
退订

回复:flink sql 窗口场景的问题

2020-06-02 文章 shao.hongxiao
考虑使用滑动窗口和步长 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制 在2020年06月03日 08:22,smq 写道: 我觉得既然你想要事实输出数据,那就没必要用窗口,用了时间窗口,那就是按照窗口大小来统计了,不能同时两个都实现吧,把这两种场景分开分别实现,或者你要想得到每分钟的聚合结果,就缩小窗口大小。 ---原始邮件--- 发件人: "steven chen"

回复:本地测试 flink 1.10 hbase sql create table 在反序列化byte之后得到的对象conf配置为null,导致无法连接hbase集群

2020-05-22 文章 shao.hongxiao
没有,经过测试是可以写入,读取会出这个问题 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制 在2020年05月23日 08:20,Jacky Lau 写道: 你是否将hbase conf目录在configs. sh脚本中显示指定了 发自我的iPhone -- 原始邮件 -- 发件人: Leonard Xu 发送时间: 2020年5月23日 00:19 收件人: shao.hongxiao <17611022...@163.com> 抄送

回复:本地测试 flink 1.10 hbase sql create table 在反序列化byte之后得到的对象conf配置为null,导致无法连接hbase集群

2020-05-22 文章 shao.hongxiao
ava#L33> > 在 2020年5月22日,11:48,shao.hongxiao <17611022...@163.com> 写道: > > 一下是我的程序 > sql > val hbaseTable = > """ > |CREATE TABLE pvuv_sink( > |user_id varchar, > |f ROW > |) WITH ( > |&

本地测试 flink 1.10 hbase sql create table 在反序列化byte之后得到的对象conf配置为null,导致无法连接hbase集群

2020-05-21 文章 shao.hongxiao
一下是我的程序 sql val hbaseTable = """ |CREATE TABLE pvuv_sink( |user_id varchar, |f ROW |) WITH ( |'connector.type' = 'hbase', |'connector.version' = '1.4.3', |'connector.table-name' = 'test_shx', |'connector.z

本地测试 flink 1.10 hbase sql create table 在反序列化byte之后得到的对象conf配置为null,导致无法连接hbase集群

2020-05-21 文章 shao.hongxiao
job graph 阶段 HBaseRowInputFormat.java this.conf = {Configuration@4841} "Configuration: core-default.xml, core-site.xml, hbase-default.xml, hbase-site.xml" quietmode = true allowNullValueProperties = false resources = {ArrayList@4859} size = 2 finalParameters = {Collections$SetFromMap@4860}

回复: flink sql jdbc 只要含有group by 语句就会报错No operations allowed after statement closed.

2020-05-20 文章 shao.hongxiao
operations allowed after statement closed. 正常sql,可以插入mysql |INSERT INTO pvuv_sink |SELECT | user_id,item_id,category_id,1 |FROM user_log | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制 在2020年5月21日 11:39,Rui Li 写道: Hi,看不到你贴的SQL,试试直接发一下文字呢? On Thu, May 21, 2020 at 11:25 AM shao.hongxiao <17611022...@

flink sql jdbc 只要含有group by 语句就会报错No operations allowed after statement closed.

2020-05-20 文章 shao.hongxiao
报错sql 正常执行sql 这是为什么呀,好奇怪 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制

回复:flink 历史数据join

2020-05-15 文章 shao.hongxiao
15:39,shao.hongxiao 写道: 1. 搞hive映射表,直接使用spark或者hive sql | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制 在2020年5月15日 15:31,jimandlice 写道: 如果要集成公司产品呢 | | jimandlice | | 邮箱:jimandl...@163.com | Signature is customized by Netease Mail Master 在2020年05月15日 15:30,shao.hongxiao 写道: 可以直接注册表,然后写sql来弄

回复:flink 历史数据join

2020-05-15 文章 shao.hongxiao
1. 搞hive映射表,直接使用spark或者hive sql | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制 在2020年5月15日 15:31,jimandlice 写道: 如果要集成公司产品呢 | | jimandlice | | 邮箱:jimandl...@163.com | Signature is customized by Netease Mail Master 在2020年05月15日 15:30,shao.hongxiao 写道: 可以直接注册表,然后写sql来弄 | | 邵红晓 | | 邮箱

回复:flink 历史数据join

2020-05-15 文章 shao.hongxiao
可以直接注册表,然后写sql来弄 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制 在2020年05月15日 13:17,jimandlice 写道: 就是要用api的方式来继承 不是直接操作sql那样来出来 | | jimandlice | | 邮箱:jimandl...@163.com | Signature is customized by Netease Mail Master 在2020年05月15日 11:38,jimandlice 写道: api 做 还是用table sql 来做 谁做比较好集成 因为

回复:怎么排查taskmanager频繁挂掉的原因?

2020-05-15 文章 shao.hongxiao
你的是batch 模式吗 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制 在2020年05月15日 15:05,Jeff 写道: hi all, 最近上线一批新任务后taskmanager频繁挂掉,很可能是OOM问题,操作系统日志里没找到相关记录,flink日志只找到如下部分,但还是不确定是什么原因,请问要怎么确定原因呢? id, channel, rowtime) -> select: (appid, channel, rowtime, 1 AS $f3) b91d36766995398a9b0c9416ac1fb

回复: flink on kubernetes 作业卡主现象咨询

2020-05-12 文章 shao.hongxiao
兄弟 请问你的问题解决了吗?怎么解决的,谢谢 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制 在2020年5月8日 10:08,LakeShen 写道: Hi , 你可以看下你的内存配置情况,看看是不是内存配置太小,导致 networkd bufffers 不够。 具体文档参考: https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/memory/mem_detail.html Best, LakeShen a511955993 于2020年5月7日周四

Re: Flink Task Manager GC overhead limit exceeded

2020-04-30 文章 shao.hongxiao
你好,宋 Please refer to this document [1] for more details 能发一下具体链接吗,我也发现flink ui上显示的内存参数不太对,我想仔细看一下相关说明 谢谢啦 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制 On 04/30/2020 12:08, Xintong Song wrote: Then I would suggest the following. - Check the task manager log to see if the '-D' propert

回复:flink1.9,state process api 读取MapState,出错

2020-04-30 文章 shao.hongxiao
用一个正常的Java pojo试一下 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由网易邮箱大师定制 在2020年4月30日 15:14,guanyq 写道: 有没有发现,我这还是报错。 在 2020-04-30 09:40:45,"shx" <17611022...@163.com> 写道: 能发一下写入状态的代码看一下吗,还有一个问题,键值状态访问,你的代码里是读出了所有key关键的mapstate吗,谢谢 | | 邵红晓 | | 邮箱:17611022...@163.com | 签名由 网易邮箱大师 定制

回复:flink1.9,state process api 读取MapState,出错

2020-04-29 文章 shao.hongxiao
是不是静态内部类的问题? Rules for POJO types Flink recognizes a data type as a POJO type (and allows “by-name” field referencing) if the following conditions are fulfilled: The class is public and standalone (no non-static inner class) The class has a public no-argument constructor All non-static, non-tran