Re: flink写es和hbase反压

2021-06-18 文章 yidan zhao
注意需要结合flink的异步算子哈,不是随意直接改造成异步请求。 田磊 于2021年6月18日周五 下午2:33写道: > > 好的,我试试,谢谢解答! > > > | | > totorobabyfans > | > | > 邮箱:totorobabyf...@163.com > | > > 签名由 网易邮箱大师 定制 > > 在2021年06月18日 14:16,yidan zhao 写道: > 推荐使用批量+异步方式写。 > > 田磊 于2021年6月18日周五 下午1:12写道: > > > > > 现在用flink自定义source读取hbase的其中一张表的数据,表中这张表

Re: flink写es和hbase反压

2021-06-17 文章 yidan zhao
推荐使用批量+异步方式写。 田磊 于2021年6月18日周五 下午1:12写道: > > 现在用flink自定义source读取hbase的其中一张表的数据,表中这张表的总数据有三千万条,处理完之后的数据写入es和hbase,但是每次写的时候到一千多万条就出现反压,之前怀疑是es的问题,最后单独写hbase也出现相同的问题,出问题后就一条都不写了,大佬指点一下。日志也没有异常。详见附件。es和hbase都是批量写。source和sink的并行度都是1,中间map算子并行度16。 > > > > *totorobabyfans*邮箱:totorobabyf...@163.com > >