netty筑基-Reactor线程模型

01.前言 · 浅析IO模型
02.图解BIO之传统编程模型
03.基于I/O复用模型的Reactor模式
04.Reactor模式的多样变化
05.最后总结

01.前言 · 浅析IO模型

IO操作,包括网络IO,文件IO。本文讨论的是网络编程中的概念。IO模型的话,很多大佬都做过深入分析,一般分为5种模型。我们这边也不去从LInux系统底层去深度剖析,从下面的IO模型对比图,可以理解区别一下 同步阻塞 这四字中同步和阻塞各自的含义。

image

如图中所示,其实我们操作IO一般就是分为俩个过程,等待数据就绪,拷贝数据从内核复制到用户空间。前四种模型都是阻塞的,并且第二阶段都是阻塞的。我们可以从下面的概念来理解一下同步、阻塞的概念。

(1).阻塞调用与非阻塞调用

阻塞调用,调用结果返回之前,当前线程会被挂起,一直等待,直到结果返回;

非阻塞调用则不用等调用结果返回,不会阻塞当前线程,可以去干其他事情。

(2).同步处理和异步处理

同步处理是指,被调用方得到最终结果之后返回给调用方;

异步处理是指,被调用方不等处理结束先返回响应,再进行计算,当计算完成时,通知调用方并将结果返回给调用方。

02.图解BIO之传统编程模型

BIO BLockingIO(同步阻塞模式)。当我们调用类似accept(),read(),connect()等API操作时,系统调用会卡住。

例如,我们调用read()方法从socket中去读取数据,但是其实我们无法预知对方数据是否发送,只能是一直等待或者网络超时。这是我们传统的阻塞式网络编程,一个线程被挂起,望眼欲穿,什么事情也干不了,干等着。

网络编程模型BIO.png

想想看,要是有个几千几万的连接过来,那么我们得启动对应数量的线程大军,全都hang住,这对操作系统来说是灾难性的。线程越多,Context Switch操作越多,这会消耗大量CPU。

并且每一个线程都会使用一定大小的栈,要是有成千上万的线程,那么内存消耗也是很吓人的,虽然可以通过大内存撑起了上万并发,那百万,千万呢?不过系统稳定性和成本都会指数爆炸。

也有人提出使用线程池去优化,避免产生大量的线程,但是这样做同时也限制了连接数量,这肯定不是最优解,如果是一个对外的TCP服务,网络连接数量是不可预估的。

03.基于I/O复用模型的Reactor模式

当~,NIO就要闪亮登场,NON-Blocking,同步非阻塞模式,和BIO的区别是什么呢?

我们同样进行read操作:

BIO一个客户端连接对应一条处理线程,在没有数据过来的时候,read操作就会一直卡在那里;

NIO不是这样子的,一旦调用read()操作就会马上返回,没有数据就会返回-1,有数据就返回读取的字节数。

img

一般我们会采用I/O多路复用的模型,多个连接共用一个对象,应用程序只需要在一个对象上阻塞住,无需阻塞等待所有的连接。当某条连接有新的数据可以处理的时候,就由系统通知应用程序,阻塞的线程就会唤醒,准备进行业务处理。

这时候不会采用BIO中那种一个连接对应一个线程的方式,我们采用线程池,复用线程资源,将连接完成的业务处理任务分发给线程池中的线程进行处理,一个线程可以处理很多连接的业务。

基于线程池+I/O复用模型,这就是Reactor模式基本设计思想。

Reactor模式,通过一个或者多个输入同时传递给服务端请求的事件驱动处理模式。服务端处理多路请求,将请求分发给请求对应的处理线程。I/O多路复用统一监听多个事件,当接收到事件的时候分发给处理线程。

04.Reactor模式的多样变化

Reactor模式最基本的俩个组件:

  • Reactor,反应器,起反应的人,他就像是电话接线员,接听来自各个地方的客户电话并转移到适当的联系人。一般Reactor运行在一个线程或者进程上,负责监听和分发事件,有事件到来,就分发给适当的处理线程去对IO事件做出反应。
  • Handlers,操作者,就好比是公司里的业务员。处理执行I/O事件要完成的实际事件,主要是Reactor调度给他,适当地执行非阻塞的操作。

根据Reactor的数量和处理资源线程池的数量不同我们可以有以下三种变化:

1.单Reactor单线程
img
2.单Reactor多线程
img
3.主从Reactor多线程
img

05.最后总结

最后,我们可以总结一下,Reactor模式具有如下的优点:

  1. 响应快,不必为单个同步时间所阻塞,虽然Reactor本身依然是同步的
  1. 编程相对简单,可以最大程度的避免复杂的多线程及同步问题,并且避免了多线程/进程的切换开销
  1. 可扩展性,可以方便的通过增加Reactor实例个数来充分利用CPU资源
  1. 可复用性,Reactor模型本身与具体事件处理逻辑无关,具有很高的复用性
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335

推荐阅读更多精彩内容