扩展Guava缓存溢出到磁盘
緩存使您可以輕松地顯著加速應用程序。 Java平臺的兩種出色的緩存實現是Guava緩存和Ehcache 。 盡管Ehcache功能豐富得多(例如其Searchable API ,將緩存持久化到磁盤或溢出到大內存的可能性),但與Guava相比,它也帶來了相當大的開銷。 在最近的項目中,我發現需要將全面的緩存溢出到磁盤上,但是與此同時,我經常需要使該緩存的特定值無效。 由于Ehcache的Searchable API僅可用于內存中的緩存,因此這使我陷入了兩難境地。 但是,擴展Guava緩存以允許以結構化方式溢出到磁盤非常容易。 這使我既溢出到磁盤,又需要必需的失效功能。 在本文中,我想展示如何實現這一目標。
我將以實際Guava Cache實例的包裝器形式實現此文件持久性緩存FilePersistingCache 。 當然,這不是最優雅的解決方案(更優雅的方法是使用此行為來實現實際的Guava Cache ),但是在大多數情況下,我都會這樣做。
首先,我將定義一個受保護的方法,該方法創建前面提到的后備緩存:
private LoadingCache<K, V> makeCache() {return customCacheBuild().removalListener(new PersistingRemovalListener()).build(new PersistedStateCacheLoader()); }protected CacheBuilder<K, V> customCacheBuild(CacheBuilder<K, V> cacheBuilder) {return CacheBuilder.newBuilder(); }第一種方法將在內部用于構建必要的緩存。 為了實現對緩存的任何自定義要求(例如,過期策略),應該重寫第二種方法。 例如,這可以是條目或軟引用的最大值。 此緩存將與其他任何Guava緩存一樣使用。 緩存功能的關鍵是用于此緩存的RemovalListener和CacheLoader 。 我們將這兩個實現定義為FilePersistingCache內部類:
private class PersistingRemovalListener implements RemovalListener<K, V> {@Overridepublic void onRemoval(RemovalNotification<K, V> notification) {if (notification.getCause() != RemovalCause.COLLECTED) {try {persistValue(notification.getKey(), notification.getValue());} catch (IOException e) {LOGGER.error(String.format("Could not persist key-value: %s, %s",notification.getKey(), notification.getValue()), e);}}} }public class PersistedStateCacheLoader extends CacheLoader<K, V> {@Overridepublic V load(K key) {V value = null;try {value = findValueOnDisk(key);} catch (Exception e) {LOGGER.error(String.format("Error on finding disk value to key: %s",key), e);}if (value != null) {return value;} else {return makeValue(key);}} }從代碼中可以明顯FilePersistingCache ,這些內部類調用了我們尚未定義的FilePersistingCache方法。 這使我們可以通過重寫此類來定義自定義序列化行為。 刪除偵聽器將檢查清除緩存條目的原因。 如果RemovalCause被COLLECTED ,緩存條目沒有由用戶手動刪除,但它已被刪除作為高速緩存的驅逐策略的結果。 因此,如果用戶不希望刪除緩存條目,我們將僅嘗試保留該條目。 CacheLoader將首先嘗試從磁盤還原現有值并僅在無法還原該值時創建一個新值。
缺少的方法定義如下:
private V findValueOnDisk(K key) throws IOException {if (!isPersist(key)) return null;File persistenceFile = makePathToFile(persistenceDirectory, directoryFor(key));(!persistenceFile.exists()) return null;FileInputStream fileInputStream = new FileInputStream(persistenceFile);try {FileLock fileLock = fileInputStream.getChannel().lock();try {return readPersisted(key, fileInputStream);} finally {fileLock.release();}} finally {fileInputStream.close();} }private void persistValue(K key, V value) throws IOException {if (!isPersist(key)) return;File persistenceFile = makePathToFile(persistenceDirectory, directoryFor(key));persistenceFile.createNewFile();FileOutputStream fileOutputStream = new FileOutputStream(persistenceFile);try {FileLock fileLock = fileOutputStream.getChannel().lock();try {persist(key, value, fileOutputStream);} finally {fileLock.release();}} finally {fileOutputStream.close();} }private File makePathToFile(@Nonnull File rootDir, List<String> pathSegments) {File persistenceFile = rootDir;for (String pathSegment : pathSegments) {persistenceFile = new File(persistenceFile, pathSegment);}if (rootDir.equals(persistenceFile) || persistenceFile.isDirectory()) {throw new IllegalArgumentException();}return persistenceFile; }protected abstract List<String> directoryFor(K key);protected abstract void persist(K key, V value, OutputStream outputStream)throws IOException;protected abstract V readPersisted(K key, InputStream inputStream)throws IOException;protected abstract boolean isPersist(K key);所實現的方法在同步文件訪問并確保流被適當關閉的同時,還要注意對值進行序列化和反序列化。 最后四種方法仍然是抽象的,由緩存的用戶來實現。 directoryFor(K)方法應為每個密鑰標識一個唯一的文件名。 在最簡單的情況下,密鑰的K類的toString方法是以這種方式實現的。 另外,我還對persist , readPersisted和isPersist方法進行了抽象化處理,以實現自定義序列化策略,例如使用Kryo 。 在最簡單的情況下,您將使用內置的Java功能,該功能使用ObjectInputStream和ObjectOutputStream 。 對于isPersist ,假設僅在需要序列化時才使用此實現,則將返回true 。 我添加了此功能以支持混合緩存,在混合緩存中,您只能將值序列化為某些鍵。 確保不關閉persist和readPersisted方法中的流,因為文件系統鎖依賴于要打開的流。 上面的實現將為您關閉流。
最后,我添加了一些服務方法來訪問緩存。 當然,實現Guava的Cache接口將是一個更優雅的解決方案:
public V get(K key) {return underlyingCache.getUnchecked(key); }public void put(K key, V value) {underlyingCache.put(key, value); }public void remove(K key) {underlyingCache.invalidate(key); }protected Cache<K, V> getUnderlyingCache() {return underlyingCache; }當然,可以進一步改善該解決方案。 如果您在并發場景中使用緩存,請注意, RemovalListener是除大多數Guava緩存方法以外的異步執行的。 從代碼顯而易見,我添加了文件鎖,以避免在文件系統上發生讀/寫沖突。 但是,這種異步性確實意味著即使內存中仍然有一個值,也很少有機會重新創建值條目。 如果需要避免這種情況,請確保在包裝器的get方法中調用基礎緩存的cleanUp方法。 最后,切記在緩存過期時清理文件系統。 最佳地,您將使用系統的臨時文件夾存儲高速緩存條目,從而完全避免此問題。 在示例代碼中,目錄由名為persistenceDirectory的實例字段表示,該實例字段可以例如在構造函數中初始化。
更新 :我對上面描述的內容進行了干凈的實現,您可以在Git Hub頁面和Maven Central上找到這些實現。 如果需要將緩存對象存儲在磁盤上,請隨時使用它。
翻譯自: https://www.javacodegeeks.com/2013/12/extending-guava-caches-to-overflow-to-disk.html
總結
以上是生活随笔為你收集整理的扩展Guava缓存溢出到磁盘的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 好吃的零食清单100种(熬夜看世界杯不可
- 下一篇: RS232和485接口区别(两种接口详细