看完这篇Redis缓存三大问题,保你面试能造火箭,工作能拧螺丝

转载:https://www.toutiao.com/a6836181257961865740/

前言

日常的开发中,无不都是使用数据库来进行数据的存储,由于一般的系统任务中通常不会存在高并发的情况,所以这样看起来并没有什么问题。

一旦涉及大数据量的需求,如一些商品抢购的情景,或者主页访问量瞬间较大的时候,单一使用数据库来保存数据的系统会因为面向磁盘磁盘读/写速度问题有严重的性能弊端。

在这一瞬间成千上万的请求到来,需要系统在极短的时间内完成成千上万次的读/写操作,这个时候往往不是数据库能够承受的,极其容易造成数据库系统瘫痪,最终导致服务宕机的严重生产问题。

为了克服上述的问题,项目通常会引入NoSQL技术,这是一种基于内存数据库,并且提供一定的持久化功能。

Redis技术就是NoSQL技术中的一种。Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面。

但同时,它也带来了一些问题。其中,最要害的问题,就是数据的一致性问题,从严格意义上讲,这个问题无解。如果对数据的一致性要求很高,那么就不能使用缓存

另外的一些典型问题就是,缓存穿透缓存击穿缓存雪崩。本篇文章从实际代码操作,来提出解决这三个缓存问题的方案,毕竟Redis的缓存问题是实际面试中高频问点,理论和实操要兼得。

缓存穿透

缓存穿透是指查询一条数据库和缓存都没有的一条数据,就会一直查询数据库,对数据库的访问压力就会增大,缓存穿透的解决方案,有以下两种:

缓存空对象:代码维护较简单,但是效果不好。

布隆过滤器:代码维护复杂,效果很好。


缓存空对象

缓存空对象是指当一个请求过来缓存中和数据库中都不存在该请求的数据,第一次请求就会跳过缓存进行数据库的访问,并且访问数据库后返回为空,此时也将该空对象进行缓存。

若是再次进行访问该空对象的时候,就会直接击中缓存,而不是再次数据库,缓存空对象实现的原理图如下:


缓存空对象的实现代码如下:

publicclassUserServiceImpl{

@Autowired

UserDAOuserDAO;

@Autowired

RedisCache redisCache;

public User findUser(Integer id) {

Object object = redisCache.get(Integer.toString(id));

//缓存中存在,直接返回

if(object != null) {

//检验该对象是否为缓存空对象,是则直接返回null

if(object instanceof NullValueResultDO) {

returnnull;

}

return(User)object;

}else{

//缓存中不存在,查询数据库

User user = userDAO.getUser(id);

//存入缓存

if(user != null) {

redisCache.put(Integer.toString(id),user);

}else{

//将空对象存进缓存

redisCache.put(Integer.toString(id), new NullValueResultDO());

}

returnuser;

}

}

缓存空对象的实现代码很简单,但是缓存空对象会带来比较大的问题,就是缓存中会存在很多空对象,占用内存的空间,浪费资源,一个解决的办法就是设置空对象的较短的过期时间,代码如下:

//再缓存的时候,添加多一个该空对象的过期时间60秒

redisCache.put(Integer.toString(id),newNullValueResultDO(),60);

布隆过滤器

布隆过滤器是一种基于概率数据结构,主要用来判断某个元素是否在集合内,它具有运行速度快(时间效率),占用内存小的优点(空间效率),但是有一定的误识别率删除困难的问题。它只能告诉你某个元素一定不在集合内或可能在集合内。

在计算机科学中有一种思想:空间换时间,时间换空间。一般两者是不可兼得,而布隆过滤器运行效率和空间大小都兼得,它是怎么做到的呢?

在布隆过滤器中引用了一个误判率的概念,即它可能会把不属于这个集合的元素认为可能属于这个集合,但是不会把属于这个集合的认为不属于这个集合,布隆过滤器的特点如下:

一个非常大的二进制位数组 (数组里只有0和1)

若干个哈希函数

空间效率查询效率高

不存在漏报(False Negative):某个元素在某个集合中,肯定能报出来。

可能存在误报(False Positive):某个元素不在某个集合中,可能也被爆出来。

不提供删除方法,代码维护困难。

位数组初始化都为0,它不存元素的具体值,当元素经过哈希函数哈希后的值(也就是数组下标)对应的数组位置值改为1。

实际布隆过滤器存储数据和查询数据的原理图如下:


可能很多读者看完上面的特点和原理图,还是看不懂,别急下面通过图解一步一步的讲解布隆过滤器,总而言之一句简单的话概括就是布隆过滤器是一个很大二进制位数组,数组里面只存0和1

初始化的布隆过滤器的结构图如下:


以上只是画了布隆过滤器的很小很小的一部分,实际布隆过滤器是非常大的数组(这里的大是指它的长度大,并不是指它所占的内存空间大)。

那么一个数据是怎么存进布隆过滤器的呢?

当一个数据进行存入布隆过滤器的时候,会经过若干个哈希函数进行哈希(若是对哈希函数还不懂的请参考这一片[]),得到对应的哈希值作为数组的下标,然后将初始化的位数组对应的下标的值修改为1,结果图如下:


当再次进行存入第二个值的时候,修改后的结果的原理图如下:


所以每次存入一个数据,就会哈希函数的计算,计算的结果就会作为下标,在布隆过滤器中有多少个哈希函数就会计算出多少个下标,布隆过滤器插入的流程如下:

将要添加的元素给m个哈希函数

得到对应于位数组上的m个位置

将这m个位置设为1

那么为什么会有误判率呢?

假设在我们多次存入值后,在布隆过滤器中存在x、y、z这三个值,布隆过滤器的存储结构图如下所示:


当我们要查询的时候,比如查询a这个数,实际中a这个数是不存在布隆过滤器中的,经过2个哈希函数计算后得到a的哈希值分别为2和13,结构原理图如下:


经过查询后,发现2和13位置所存储的值都为1,但是2和13的下标分别是x和z经过计算后的下标位置的修改,该布隆过滤器中实际不存在a,那么布隆过滤器就会误判该值可能存在,因为布隆过滤器不存元素值,所以存在误判率

那么具体布隆过布隆过滤的判断的准确率和一下两个因素有关:

布隆过滤器大小:越大,误判率就越小,所以说布隆过滤器一般长度都是非常大的。

哈希函数的个数:哈希函数的个数越多,那么误判率就越小。

那么为什么不能删除元素呢?

原因很简单,因为删除元素后,将对应元素的下标设置为零,可能别的元素的下标也引用改下标,这样别的元素的判断就会收到影响,原理图如下:


当你删除z元素之后,将对应的下标10和13设置为0,这样导致x和y元素的下标受到影响,导致数据的判断不准确,所以直接不提供删除元素的api。

以上说的都是布隆过滤器的原理,只有理解了原理,在实际的运用才能如鱼得水,下面就来实操代码,手写一个简单的布隆过滤器。

对于要手写一个布隆过滤器,首先要明确布隆过滤器的核心:

若干哈希函数

存值得Api

判断值得Api

实现的代码如下:

publicclassMyBloomFilter{

//布隆过滤器长度

privatestaticfinalintSIZE=2<<10;

//模拟实现不同的哈希函数

privatestaticfinalint[]num=newint[]{5,19,23,31,47,71};

//初始化位数组

privateBitSetbits=newBitSet(SIZE);

//用于存储哈希函数

privateMyHash[]function=newMyHash[num.length];

//初始化哈希函数

publicMyBloomFilter(){

for(inti=0;i<num.length;i++){

function[i]=newMyHash(SIZE,num[i]);

}

}

//存值Api

publicvoidadd(Stringvalue){

//对存入得值进行哈希计算

for(MyHashf:function){

//将为数组对应的哈希下标得位置得值改为1

bits.set(f.hash(value),true);

}

}

//判断是否存在该值得Api

publicbooleancontains(Stringvalue){

if(value==null){

returnfalse;

}

booleanresult=true;

for(MyHashf :func){

result=result&&bits.get(f.hash(value));

}

returnresult;

}

}

哈希函数代码如下:

publicstaticclassMyHash{

privateintcap;

privateintseed;

// 初始化数据

        public MyHash(int cap, int seed) {

            this.cap = cap;

            this.seed = seed;

        }

        // 哈希函数

        public int hash(String value) {

            int result = 0;

            int len = value.length();

            for (int i = 0; i < len; i++) {

                result = seed * result + value.charAt(i);

            }

            return (cap - 1) & result;

        }

    }

布隆过滤器测试代码如下:

publicstaticvoidtest {

Stringvalue="4243212355312";

MyBloomFilter filter =newMyBloomFilter();

System.out.println(filter.contains(value));

filter.add(value);

System.out.println(filter.contains(value));

}

以上就是手写了一个非常简单得布隆过滤器,但是实际项目中可能是由牛人或者大公司已经帮你写好的,如谷歌的Google Guava,只需要在项目中引入一下依赖:

com.google.guava

guava

27.0.1-jre

实际项目中具体的操作代码如下:

publicstaticvoidMyBloomFilterSysConfig {

@Autowired

OrderMapper orderMapper

// 1.创建布隆过滤器  第二个参数为预期数据量10000000,第三个参数为错误率0.00001

BloomFilter<CharSequence> bloomFilter =  BloomFilter.create(Funnels.stringFunnel(Charset.forName("utf-8")),10000000, 0.00001);

// 2.获取所有的订单,并将订单的id放进布隆过滤器里面

List<Order> orderList = orderMapper.findAll()

for (Order order;orderList ) {

    Long id = order.getId();

    bloomFilter.put("" + id);

}

}

在实际项目中会启动一个系统任务或者定时任务,来初始化布隆过滤器,将热点查询数据的id放进布隆过滤器里面,当用户再次请求的时候,使用布隆过滤器进行判断,该订单的id是否在布隆过滤器中存在,不存在直接返回null,具体操作代码:

// 判断订单id是否在布隆过滤器中存在

bloomFilter.mightContain(""+ id)

布隆过滤器的缺点就是要维持容器中的数据,因为订单数据肯定是频繁变化的,实时的要更新布隆过滤器中的数据为最新。

缓存击穿

缓存击穿是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,瞬间对数据库的访问压力增大。

缓存击穿这里强调的是并发,造成缓存击穿的原因有以下两个:

该数据没有人查询过 ,第一次就大并发的访问。(冷门数据)

添加到了缓存,reids有设置数据失效的时间 ,这条数据刚好失效,大并发访问(热点数据)

对于缓存击穿的解决方案就是加锁,具体实现的原理图如下:


当用户出现大并发访问的时候,在查询缓存的时候和查询数据库的过程加锁,只能第一个进来的请求进行执行,当第一个请求把该数据放进缓存中,接下来的访问就会直接集中缓存,防止了缓存击穿

业界比价普遍的一种做法,即根据key获取value值为空时,锁上,从数据库中load数据后再释放锁。若其它线程获取锁失败,则等待一段时间后重试。这里要注意,分布式环境中要使用分布式锁单机的话用普通的锁(synchronized、Lock)就够了。

下面以一个获取商品库存的案例进行代码的演示,单机版的锁实现具体实现的代码如下:

//获取库存数量

public String getProduceNum(String key) {

try{

synchronized (this) {//加锁

//缓存中取数据,并存入缓存中

int num= Integer.parseInt(redisTemplate.opsForValue().get(key));

if(num>0) {

//没查一次库存-1

redisTemplate.opsForValue().set(key, (num-1) +"");

System.out.println("剩余的库存为num:"+ (num-1));

}else{

System.out.println("库存为0");

}

}

}catch(NumberFormatException e) {

e.printStackTrace();

}finally{

}

return"OK";

}

分布式的锁实现具体实现的代码如下:

public String getProduceNum(String key) {

//获取分布式锁

RLock lock = redissonClient.getLock(key);

try {

//获取库存数

int num= Integer.parseInt(redisTemplate.opsForValue().get(key));

//上锁

lock.lock();

if(num>0) {

//减少库存,并存入缓存中

redisTemplate.opsForValue().set(key, (num -1) +"");

System.out.println("剩余库存为num:"+ (num-1));

}else{

System.out.println("库存已经为0");

}

} catch (NumberFormatException e) {

e.printStackTrace();

} finally {

//解锁

lock.unlock();

}

return"OK";

}

缓存雪崩

缓存雪崩 是指在某一个时间段,缓存集中过期失效。此刻无数的请求直接绕开缓存,直接请求数据库。

造成缓存雪崩的原因,有以下两种:

reids宕机

大部分数据失效

比如天猫双11,马上就要到双11零点,很快就会迎来一波抢购,这波商品在23点集中的放入了缓存,假设缓存一个小时,那么到了凌晨24点的时候,这批商品的缓存就都过期了。

而对这批商品的访问查询,都落到了数据库上,对于数据库而言,就会产生周期性的压力波峰,对数据库造成压力,甚至压垮数据库。

缓存雪崩的原理图如下,当正常的情况下,key没有大量失效的用户访问原理图如下:


当某一时间点,key大量失效,造成的缓存雪崩的原理图如下:


对于缓存雪崩的解决方案有以下两种:

搭建高可用的集群,防止单机的redis宕机。

设置不同的过期时间,防止同一时间内大量的key失效。

针对业务系统,永远都是具体情况具体分析,没有最好,只有最合适。于缓存其它问题,缓存满了和数据丢失等问题,我们后面继续深入的学习。最后也提一下三个词LRU、RDB、AOF,通常我们采用LRU策略处理溢出,Redis的RDB和AOF持久化策略来保证一定情况下的数据安全。

来源:掘金 链接:https://juejin.im/post/5edceb206fb9a047a644684f

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342