guava Cache源码分析(一)

LocalCache是一种很好的优化方案,它可以成倍的提高处理效率。面对高并发的请求,响应十分可观。如果访问的资源很小,能够装入内存,同时又不影响JVM的GC的情况下。那么LocalCache就太适合你了。在我的项目中主要用LocalCache作为Redis的缓存。效率十分可观。

一、LocalCache的实现:###

其实LocalCache的实现方案有很多种,首先我们能想到的就是JDK内部繁多的Collection类,其实对于List和Array都是可以做LocalCache的。但是因为他们的数据结构决定了他们必定是低效的。所以选择Hash作为LocalCache是一个很好的选择。JDK对于HashTable的实现有很多种,我们可以根据场景进行选择。

HashTable:对接口做了同步保证线程安全,但是效率很低。不建议使用。
HashMap:线程不安全的实现,自动扩容,没有并发问题的场景下可以使用。
ConcurrentHashMap:线程安全的HashTable实现,写加锁,读不加锁。对所粒度进行降低,分段保证并发的吞吐量,建议使用。

当然也可以采用List、Array等。当然效率确实是跟不上。

除了JDK的容器之外,还有想Ehcache、Guava Cache这种, ehcache使用起来不是很方便,所以我在项目中没用过。但是Guava Cache在这方面很惊艳,也是我很喜欢的一个Localcache的实现。

二、Guava Cache的使用:###

对于Guava Cache的使用,官方的Wiki应该算是最好的说明书了,但是无奈都是英文,可能看着看着就困了。官方Wiki的传送门:https://github.com/google/guava/wiki
这里简单的介绍下GuavaCache的使用:
GuavaCache使用时主要分两种模式:LoadingCache和CallableCache

第一种LoadingCache是一种带有加载功能的Cache实现,加载是采用初始化LoadingCache的时候指定的CacheLoader。示例如下:

LoadingCache<Key, Graph> graphs = CacheBuilder.newBuilder()
       .maximumSize(1000)
       .expireAfterWrite(10, TimeUnit.MINUTES)
       .removalListener(MY_LISTENER)
       .build(
           new CacheLoader<Key, Graph>() {
             public Graph load(Key key) throws AnyException {
               return createExpensiveGraph(key);
             }
           });

第二种CallableCahce 解决了LoadingCache不灵活,它允许每次get操作可以自己指定回调函数,进而在没有目标值的时候能够灵活的根据Call函数进行加载。

Cache<Key, Value> cache = CacheBuilder.newBuilder()
    .maximumSize(1000)
    .build(); // look Ma, no CacheLoader
...
try {
  // If the key wasn't in the "easy to compute" group, we need to
  // do things the hard way.
  cache.get(key, new Callable<Value>() {
    @Override
    public Value call() throws AnyException {
      return doThingsTheHardWay(key);
    }
  });
} catch (ExecutionException e) {
  throw new OtherException(e.getCause());
}

可以看到下面的使用方法比上面的使用方法要灵活,但是复杂程度也更加复杂。

三、GuavaCache的特性###

既然作为缓存而不是容器,那么Guava Cahce也提供了很多的缓存相关的属性。

1.缓存的淘汰策略####

由于GuavaCahce是基于JVM的缓存方式,所以它的大小对于我我们自己应用的本身都有很大的影响,所以我们在必要的时候需要对它进行部分控制和淘汰。

1.基于存储容量的淘汰。
对于GuavaCache的使用可以指定它的容量上限,当然这里的容量上限不是指它占用的内存的大小,而是它存储数据的条数。

CacheBuilder.maximumSize(long)

当整个Cache的容量大于指定值的时候会淘汰最近不经常使用的Iterm。具体怎么淘汰的会在后面源码分析的时候详解

2.基于最近读淘汰。
对于GuavaCache,如果一个iterm经过一段时间没有使用,那么我们认为它是不活跃的,为了保证系统的稳定,减小内存的占用,那么我们可以选择对它进行自动的回收,通过:

CacheBuilder.expireAfterAccess(long, TimeUnit)

来设置,如果一个Key一定时间内没有使用,那么自动的将其清除,来减小缓存对内存的占用。

3.基于最近写淘汰。
对于GuavaCache,如果一个item超过一定时间没有进行更新,那么我们也可以对其制定淘汰策略:

CacheBuilder.expireAfterWrite(long, TimeUnit)

这样就可以设置,如果一个缓存item经过一段时间没有更新操作,就会被淘汰掉,来保证缓存占用的内存尽量小。

2.对弱引用和软引用的支持####

还是上面那个问题,对于GuavaCache 它是在JVM内构建的一个缓存,所以为了不影响我们自己的应用,所以我们需要一种过载保护,当然,这种过载保护的前提是,缓存的失效不能导致我们的应用不可用。
如果缓存大小太大,或者缓存在GC的时候不能GC掉。导致我们自己应用内存不够用,甚至溢出。这样简直得不偿失。
幸运的是GuavaCahce引入了软、弱引用的支持,即在GC时如果内存紧张,可以直接讲这一部分数据GC掉,也就保护了我们的应用。

CacheBuilder.weakKeys()
CacheBuilder.weakValues()
CacheBuilder.softValues()

3.删除的监听器####

对于Cache中的item的删除,我们往往是不可见的。但是GuavaCache提供了一个removeLinstener,可以在item在删除的时候让删除对我们可见。

CacheLoader<Key, DatabaseConnection> loader = new CacheLoader<Key, DatabaseConnection> () {
  public DatabaseConnection load(Key key) throws Exception {
    return openConnection(key);
  }
};
RemovalListener<Key, DatabaseConnection> removalListener = new RemovalListener<Key, DatabaseConnection>() {
  public void onRemoval(RemovalNotification<Key, DatabaseConnection> removal) {
    DatabaseConnection conn = removal.getValue();
    conn.close(); // tear down properly
  }
};

return CacheBuilder.newBuilder()
  .expireAfterWrite(2, TimeUnit.MINUTES)
  .removalListener(removalListener)
  .build(loader);

上面的程序构建了一个LoadingCache,后面我们声明了一个removalListener,removalListener进行了Connection的关闭。removalListener在Cache中的item被淘汰或删除的时候会进行Listener的调用。

4.缓存的刷新####

对于缓存刷新,GuavaCache提供了Refresh方法进行缓存的刷新,当调用Refresh(key)方法时,会触发一个刷新操作,刷新操作是异步的,也就是说有可能会得到旧值,同时为了保证刷新不会影响正常的应用,那么在刷新时的异常会被捕捉并打印日志。
refreash的刷新操作是调用LoadingCache的load方法或者Callable的call方法进行刷新。同时为了支持LoadingCache的异步刷新提供了load(Key key) 方法.

以上就是GuavaCahce的基本介绍,主要说了一些特性相关的内容,也为接下来源码的分析打下个基础,下一篇主要会说些源码和结构.

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 171,398评论 25 707
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,585评论 18 139
  • Google Guava Cache是一种非常优秀本地缓存解决方案,提供了基于容量,时间和引用的缓存回收方式。基于...
    Acamy丶阅读 25,740评论 3 34
  • 每天都忙于奔波的你,是否一次次错过了这样的日落。避开了捷径,会有意想不到的收获,人生亦如此!
    一粒沙在撒哈拉阅读 224评论 3 5
  • 人们期待地球的消息已久,可没想到苏醒来听到的第一个消息竟是地球的丧钟。很多人在离开地球时都已做好了失去地球的准...
    王十三_8a1f阅读 158评论 0 0