Re: flink写es和hbase反压

[yidan zhao]

注意需要结合flink的异步算子哈，不是随意直接改造成异步请求。

田磊  于2021年6月18日周五 下午2:33写道：
>
> 好的，我试试，谢谢解答！
>
>
> | |
> totorobabyfans
> |
> |
> 邮箱：totorobabyf...@163.com
> |
>
> 签名由 网易邮箱大师 定制
>
> 在2021年06月18日 14:16，yidan zhao 写道：
> 推荐使用批量+异步方式写。
>
> 田磊  于2021年6月18日周五 下午1:12写道：
>
> >
> > 现在用flink自定义source读取hbase的其中一张表的数据，表中这张表的总数据有三千万条，处理完之后的数据写入es和hbase,但是每次写的时候到一千多万条就出现反压，之前怀疑是es的问题，最后单独写hbase也出现相同的问题，出问题后就一条都不写了，大佬指点一下。日志也没有异常。详见附件。es和hbase都是批量写。source和sink的并行度都是1，中间map算子并行度16。
> >
> >
> >
> > *totorobabyfans*邮箱：totorobabyf...@163.com
> >
> > 签名由
> > 网易邮箱大师  >

Re: flink写es和hbase反压

[yidan zhao]

推荐使用批量+异步方式写。

田磊  于2021年6月18日周五 下午1:12写道：

>
> 现在用flink自定义source读取hbase的其中一张表的数据，表中这张表的总数据有三千万条，处理完之后的数据写入es和hbase,但是每次写的时候到一千多万条就出现反压，之前怀疑是es的问题，最后单独写hbase也出现相同的问题，出问题后就一条都不写了，大佬指点一下。日志也没有异常。详见附件。es和hbase都是批量写。source和sink的并行度都是1，中间map算子并行度16。
>
>
>
> *totorobabyfans*邮箱：totorobabyf...@163.com
>
> 签名由
> 网易邮箱大师  定制
>