回复: Flink写clickhouse怎么实现精准一次性

2021-05-08 Thread 13051111332
; | | 1305332 | | 1305...@163.com | 签名由网易邮箱大师定制 在2021年05月8日 10:44,张锴 写道: clickhouse不支持事务及幂等写入,无法保证end to end 精准一次。 李一飞 于2021年5月7日周五 下午10:27写道: 请问 Flink写clickhouse怎么实现精准一次性,有啥好办法呀

回复:关于Flink作业的负载监控 task-load指标

2021-01-28 Thread 13051111332
?求大神指点 | | 13051111332 | | 1305...@163.com | 签名由网易邮箱大师定制

关于Flink作业的负载监控 task-load指标

2021-01-28 Thread 13051111332
Hi,everyone: 滴滴的一篇文档中提到: "我们一直希望能精确衡量任务的负载状况,使用反压指标指标只能粗略的判断任务的资源够或者不够。结合新版的 Mailbox 线程模型,所有互斥操作全部运行在 TaskThread 中,只需统计出线程的占用时间,就可以精确计算任务负载的百分比。 未来可以使用指标进行任务的资源推荐,让任务负载维持在一个比较健康的水平” 关于统计出线程的占用时间,这个具体该怎么做呢?

关于Flink作业的负载监控 task-load指标

2021-01-28 Thread 13051111332
Hi,everyone: 看到滴滴的一篇文章中指出task-load指标,这个线程的占用时间 具体该怎么统计呢?求大神指点 | | 1305332 | | 1305...@163.com | 签名由网易邮箱大师定制

回复: 关于端到端的延迟监控

2021-01-28 Thread 13051111332
谢谢大家,清楚了 | | 1305332 | | 1305...@163.com | 签名由网易邮箱大师定制 在2021年01月28日 17:56,Jessica.J.Wang 写道: 官方的LatencyMarker 表示的是数据的流通性, 他和数据是在同一个pipeline 中顺序处理的,如果你的算子都是同步的情况 是可以反应出数据的真实处理延迟,生产上是可以使用的,但是 延迟粒度 metrics.latency.granularity 最好调整成 single或者 operator ,防止latency上报太多 压垮服务 但当你的算子是个异步 用

关于端到端的延迟监控

2021-01-27 Thread 13051111332
Hi Everyone: 现在了解到的官方提供的LatencyMarker机制,不建议在生产上使用,而且也不参与算子内部逻辑,只能粗略估算出延迟,所以关于端到端的延迟监控,大家有什么更好的方案吗?