elasticsearch亿级数据量全量索引导入优化方案
由于是測試環(huán)境配置不高(4核7G機(jī)器),一開始我設(shè)置的corePoolSize=4,maxPoolSize=8,隊(duì)列容量200,后來發(fā)現(xiàn)還是太慢了,后來經(jīng)過測試改成corePoolSize=20,maxPoolSize=40,隊(duì)列容量為4000,最終效果比較好
我從3G->6G,這樣做的好處是,1.GC不會(huì)太頻繁,導(dǎo)致進(jìn)程頻繁停頓影響性能 2.可以增加阻塞隊(duì)列容量,可以使scan hbase的父線程停頓時(shí)間不會(huì)太長,導(dǎo)致連接超時(shí)
注意,BulkProcessor配置成異步、批量、定時(shí)刷新等,BulkProcessor#add()方法是一個(gè)同步方法,因此在同一時(shí)刻只能單線程處理,優(yōu)化是將BuilkProcessor放在線程池中動(dòng)態(tài)生成,多線程提交,另外,建索引時(shí)候先不選擇副本等全量錄入完成以后再配置副本,選擇副本再錄全量數(shù)據(jù)更新比較慢。
BulkProcessor使用注意:
1.使用的時(shí)候如果BulkProcessor只有一個(gè)實(shí)例,由于es批量處理不過來所有的數(shù)據(jù)都堆積在這個(gè)類中會(huì)出現(xiàn)OOM,后來領(lǐng)導(dǎo)讓我把提交流程改成通過固定的線程池去提交,每次批量提交創(chuàng)建一個(gè)實(shí)例,這樣保證不會(huì)出現(xiàn)OOM。
2.BulkProcessor源碼中用的Synchronized,如果只有一個(gè)實(shí)例也就意味著多個(gè)線程同時(shí)提交一次只能處理一個(gè)線程的提交,這樣效率太慢了
總結(jié)
以上是生活随笔為你收集整理的elasticsearch亿级数据量全量索引导入优化方案的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【转载】ssdb安装部署
- 下一篇: libevent学习__学习历程总结