2018-07-15-浅谈高可用和设计的一些原则(JAVA)

前言

上文说到了关于高并发的一些原则及设计,这篇主要是讲讲关于高可用这一块,毕竟都是难兄难弟,谁也离不开谁。

关于高可用?
高可用的本质就是对系统的不确定性做预期准备,来保证服务的健康,包括经常听到的数据丢失、容灾、故障等除了不可抗因素外,要达到所谓衡量标准的N个9
关于N个9的计算方式,例如3个9:(1-99.9%) * 365 * 24=8.76小时,表示该软件系统在连续运行1年时间里最多可能的业务中断时间是8.76小时。

设计高可用原则

  1. 降级总的来说就是保障数据最终一致性,分散流量,提前预处理或分散处理,前面文章里面说到的Hystrix熔断就是实现服务降级与依赖隔离,对访问down服务进行隔离丢给降级后的服务处理,防止影响到其它服务。这里说的是服务/业务方面的降级,当然还有很多其它方面。例如:

    降级

    • 超时降级:类似推荐或者评论啊,暂时不展示或者暂未更新对整体不会有太大的影响。
    • 依赖降级:针对的是一些外部服务,一些不稳定的API。
    • 故障降级:网络、RPC服务等挂掉了,处理方案可以通过缓存、默认值、兜底数据来保障。
    • 限流降级:针对一些超大流量做友好处理。
  2. 隔离将系统或资源分开,服务之间都是有依赖的,很容易因一方面服务故障导致滚雪球,隔离能够保障其它服务不会受影响,把问题控制并降低。

    • 线程隔离:请求分类,不影响其它分类线程池的正常运行。
      线程隔离
    • 进程隔离:物理分离,部署多个实例,通过负载均衡路由转发,但是更好的解决方案是将系统拆分为多个子系统来实现隔离。
    • 读写隔离:类似Redis就可用通过主从复制模式将读和写进行集群分离。
    • 动静隔离:前面说的高并发也提到过,都是相辅相成的,把动态内容和静态资源分离,静态资源可用提前做缓存。
    • 爬虫隔离:主要是为了防止恶意请求流量,会导致正常流量不可用,所以一方面可用通过限流解决,一方面可用将爬虫单独路由到单独服务上,或者让爬虫只能访问到cache。
    • 热点隔离:热点一般都是能够提前预知的,比如秒杀、抢购、大降价等,最好是做成独立系统或者服务进行隔离,也可用通过缓存和队列来进行削峰。
  3. 限流限流主要是防止流量超出系统峰值,是限制流量穿透到后端薄弱的应用层,这个可用从多个方面考虑;最终做到有损服务而不是不服务。常用的限流算法有令牌桶、漏桶等。

    • 限制并发/连接/请求数:系统都是由阀值(TPS/QPS)的,超过了要么非常慢,要么直接被击垮。
    • 时间内/平滑限流:限制时间内的请求次数,或者每隔多长时间处理一个请求。
    • 接入层限流:接入层也就是请求流量的入口,像Nginx自带的两个模块就可以,连接数限流模块和请求限流模块。
  4. 分流引流就是当某个服务挂了或者某个地方故障了需要把流量引向其他好的服务或者备用服务上去。

    • 负载均衡与反向代理
  5. 超时与重试机制设置超时能够避免慢请求累积导致系统雪崩,需要设置合理的重试机制,并且应该和熔断、快速失败机制配合。

  6. 回滚当程序或者数据出错,可用通过回滚恢复到最近的一个正确版本上,比如事务回滚、代码库回滚、更新版本回滚、数据库回滚、静态资源回滚等等。

  7. 压测与预案评估系统的稳定性和性能,提前做好应急预案。

总结来说通过降级保证服务有损而不是不可用,通过限流保护服务健康避免雪崩,通过分流与隔离保障服务正常并能够对故障实行隔离,设置合理的超时与重试机制避免请求堆积,通过回滚能够快速修复。做到这些往往能实现系统的高可用。

附上设计例图:


高可用

结语

关于例图里面的一些详细示例以后再慢慢补充吧!
推荐:浅谈高并发和设计的一些原则(JAVA)
个人博客~
简书~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,457评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,837评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,696评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,183评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,057评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,105评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,520评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,211评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,482评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,574评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,353评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,897评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,489评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,683评论 2 335