chema()
tableEnv.executeSql("insert into chaitin_test select test from " + chaitin_test)
原始邮件
发件人: me
收件人: user-zh
发送时间: 2020年10月9日(周五) 17:33
主题: Re:Re: flink1.11流式写入hive速度慢的问题
您的回复感觉一点关系也没有,有点打广告的嫌疑 原始邮件 发件人: Michael Ran 收件人:
user-zh 发送时间: 2020年10月9日(周五) 17:14 主题: Re:Re:
flink1.11流式写入hive速度慢的问
您的回复感觉一点关系也没有,有点打广告的嫌疑
原始邮件
发件人: Michael Ran
收件人: user-zh
发送时间: 2020年10月9日(周五) 17:14
主题: Re:Re: flink1.11流式写入hive速度慢的问题
不知道现在flink 能否直接获取hive 文件写入。以前直接用jdbc 写hive 速度本来就快不起来,每次都要生成文件。
如果先写文件,文件写好了再进行一次load 就会快很多 在 2020-10-09 15:55:15,"Jingsong Li"
写道: >Hi, >
ng
>
>On Fri, Oct 9, 2020 at 3:50 PM me wrote:
>
>> dataStream读取速度在5000条每秒,没有其他的处理逻辑,仅仅是将datastream 转换为table
>>
>>
>> 原始邮件
>> 发件人: me
>> 收件人: user-zh
>> 发送时间: 2020年10月9日(周五) 15:34
>> 主题: flink1.11流式写入hive速度慢的问题
>>
>>
>>
-1.2.2_2.11/1.11-SNAPSHOT/flink-sql-connector-hive-1.2.2_2.11-1.11-20201008.202441-190.jar
)
Best,
Jingsong
On Fri, Oct 9, 2020 at 3:50 PM me wrote:
> dataStream读取速度在5000条每秒,没有其他的处理逻辑,仅仅是将datastream 转换为table
>
>
> 原始邮件
> 发件人: me
> 收件人: user-zh
> 发送时间: 2020年10月9日(周五) 15:34
> 主题:
dataStream读取速度在5000条每秒,没有其他的处理逻辑,仅仅是将datastream 转换为table
原始邮件
发件人: me
收件人: user-zh
发送时间: 2020年10月9日(周五) 15:34
主题: flink1.11流式写入hive速度慢的问题
flink1.11 将datastream转为table之后,再流式的写入hive表中,发现写入速度只有几十条每秒
val chaitin_test = tableEnv.fromDataStream(dataStream,'test)
chaitin_test.printS
flink1.11 将datastream转为table之后,再流式的写入hive表中,发现写入速度只有几十条每秒
val chaitin_test = tableEnv.fromDataStream(dataStream,'test)
chaitin_test.printSchema()
tableEnv.executeSql("insert into chaitin_test select test from " + chaitin_test)