Re:回复:Re: flink 同时sink hbase和hive,hbase少记录

2020-07-13 文章 Zhou Zach
Hi,
感谢社区热心答疑!

















在 2020-07-14 11:00:18,"夏帅"  写道:
>你好,
>本质还是StreamingFileSink,所以目前只能append
>
>
>--
>发件人:Zhou Zach 
>发送时间:2020年7月14日(星期二) 10:56
>收件人:user-zh 
>主 题:Re:Re: flink 同时sink hbase和hive,hbase少记录
>
>
>
>
>Hi Leonard,
>原来是有重复key,hbase做了upsert,请问Hive Streaming Writing是不是目前只支持append模式,不支持upsert模式
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>在 2020-07-14 09:56:00,"Leonard Xu"  写道:
>>Hi,
>>
>>> 在 2020年7月14日,09:52,Zhou Zach  写道:
>>> 
>   |   CONCAT(SUBSTRING(MD5(CAST(uid AS VARCHAR)), 0, 6), 
> cast(CEILING(UNIX_TIMESTAMP(created_time)/60) as string), sex) as uid,
>>
>>看下这个抽取出来的rowkey是否有重复的呢?
>>
>>祝好,
>>Leonard Xu


回复:Re: flink 同时sink hbase和hive,hbase少记录

2020-07-13 文章 夏帅
你好,
本质还是StreamingFileSink,所以目前只能append


--
发件人:Zhou Zach 
发送时间:2020年7月14日(星期二) 10:56
收件人:user-zh 
主 题:Re:Re: flink 同时sink hbase和hive,hbase少记录




Hi Leonard,
原来是有重复key,hbase做了upsert,请问Hive Streaming Writing是不是目前只支持append模式,不支持upsert模式














在 2020-07-14 09:56:00,"Leonard Xu"  写道:
>Hi,
>
>> 在 2020年7月14日,09:52,Zhou Zach  写道:
>> 
   |   CONCAT(SUBSTRING(MD5(CAST(uid AS VARCHAR)), 0, 6), 
 cast(CEILING(UNIX_TIMESTAMP(created_time)/60) as string), sex) as uid,
>
>看下这个抽取出来的rowkey是否有重复的呢?
>
>祝好,
>Leonard Xu