hbase 按时刻查询_HBase读写优化
一個系統上線之后,開發和調優將一直貫穿系統的生命周期中,HBase也不列外。這里學習下HBase的調優。Hbase查詢優化
作為NoSQL數據庫,增刪改查是其最基本的功能,其中查詢是最常用的一項。設置Scan緩存
HBase中Scan查詢可以設置緩存,方法是setCaching(),這樣可以有效的減少服務端與客戶端的交互,更有效的提升掃描查詢的性能。
public void setCaching(int caching) {
this.caching = caching;
}顯示的指定列
當使用Scan或者GET獲取大量的行時,最好指定所需要的列,因為服務端通過網絡傳輸到客戶端,數據量太大可能是瓶頸。如果能有效過濾部分數據,能很大程度的減少網絡I/O的花費。
public Scan addFamily(byte [] family) {
familyMap.remove(family);
familyMap.put(family, null);
return this;
}
public Scan addColumn(byte [] family, byte [] qualifier) {
NavigableSet<byte []> set = familyMap.get(family);
if(set == null) {
set = new TreeSet<byte []>(Bytes.BYTES_COMPARATOR);
}
if (qualifier == null) {
qualifier = HConstants.EMPTY_BYTE_ARRAY;
}
set.add(qualifier);
familyMap.put(family, set);
return this;
}一般用:
scan.addColumn(...)關閉ResultScanner
如果在使用table.getScanner之后,忘記關閉該類,它會一直和服務端保持連接,資源無法釋放,從而導致服務端的某些資源不可用。所以在用完之后,需要執行關閉操作,這點與JDBS操作MySQL類似
scanner.close()禁用塊緩存
如果批量進行全表掃描,默認是有緩存的,如果此時有緩存,會降低掃描的效率。
scan.setCacheBlocks(true|false);對于經常讀到的數據,建議使用默認值,開啟塊緩存。緩存查詢結果
對于頻繁查詢HBase的應用場景,可以考慮在應用程序和Hbase之間做一層緩存系統,新的查詢先去緩存查,緩存沒有再去查Hbase。寫入優化
寫也是Hbase常有的操作之一,并且Hbase在寫入操作上有著其他NoSQL無法比擬的優勢,下面講如何優化寫入操作關閉寫WAL日志
一般為了保證系統的高可用性,WAL日志默認是開啟狀態,WAL主要用于災難恢復的,如果應用可以容忍一定的數據丟失風險,可以在寫數據的時候,關閉寫WAL。風險: 當RegionServer宕機時,寫入的數據出現丟失,且無法恢復。
設置AutoFlush
Htable有一個屬性是AutoFlush,該屬性用于支持客戶端的批量更新,默認是true,當客戶端每收到一條數據,立刻發送到服務端,如果設置為false,當客戶端提交put請求時候,先將該請求在客戶端緩存,到達閾值的時候或者執行hbase.flushcommits(),才向RegionServer提交請求。風險 在請求未發送到RegionServer之前客戶端崩潰,數據也會丟失
table.setAutoFlush(false);
table.setWriteBufferSize( 12 * 1024 * 1024 );預創建Region
一般表剛開始只有一個Region,插入該表的數據都會保存在此Region中,插入該表的所有塑化劑都會保存在該Region中,當到達一定的閾值時,才發生分裂。 這樣開始時刻針對該表的寫操作都集中在某臺服務器上,造成這臺服務器的壓力很緊張,同時對整個集群資源的浪費。
建議剛開始的時候預創建Region,可以使用Hbase自帶的RegionSplitter延遲日志flush
默認寫入操作,首先寫入WAL,并且在1S內寫入HDFS,這個時間默認是1S,可以通過參數配置
hbase.regionserver.optionallogflushinterval可以配置大一點的值,比如5s,這段時間數據會保留在內存中,直到RegionServer周期性的執行flush操作。
希望能幫助大家。
總結
以上是生活随笔為你收集整理的hbase 按时刻查询_HBase读写优化的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: oraclemt 无法启动服务_电脑文件
- 下一篇: c语言源码转流程图工具_C语言学习路线