Flink 异步IO优化任务
生活随笔
收集整理的這篇文章主要介紹了
Flink 异步IO优化任务
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1.通過監控,發現操作耗時,hbase get 操作耗時在10-20ms,高的時候能達到40-50ms,低的時候10ms以內
?2.解決方案
采用flink 異步io 優化代碼
final long timeout = 40000; AsyncFunction<String, String> function = new AlbumAsyncFunction(); DataStream<String> resultStream = AsyncDataStream.unorderedWait(sourceStream,function,timeout,TimeUnit.MILLISECONDS,10).filter(new FilterFunction<String>() {@Overridepublic boolean filter(String s) throws Exception {if (StringUtils.isNotBlank(s)) {return true;} else {return false;}} }).setParallelism(50);(1)應用async I/O轉換,設置等待模式、超時時間、以及進行中的異步請求的最大數量
?(2)AsyncDataStream提供了兩種調用方法,分別是orderedWait和unorderedWait,這分別對應了有序和無序兩種輸出模式。
3.異步io 思路
具體內容參考:
Flink 異步IO實戰 - 簡書 (jianshu.com)
Flink 源碼解析--Async IO的實現_METON的博客-CSDN博客
4.最后優化結果
總結
以上是生活随笔為你收集整理的Flink 异步IO优化任务的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 程序员编程必备名言佳句,提升装逼指数~
- 下一篇: 硬件:RS485基础知识笔记