NIO
- NIO 是一种同步非阻塞的I/O模型
NIO的机制
核心包含三个方面
- Buffer
- Channel
- Selector
Buffer:在NIO中,数据总是从通道(Channel)到缓冲区(Buffer),又或者是从Buffer写到Channel中。缓冲区是一块可以写入数据,然后可以从中读取数据的内存,这块内存被包装成NIO Buffer对象,用以方便访问该内存块。
Channel:传统的IO处理数据是以字节流或者字符流的方式来处理的,而NIO是以Channel来处理数据的,和流的主要区别在于:一般的流(InputStream 或者OutputStream)是单向的,而Channel既可以读,又可以写,还能异步的写与读。Channel一般封装了Socket, ByteBuffer等对象,所以Channel可以看成一个网络连接。
Selector:Selector是Java NIO中能够检测到一到多个NIO Channel, 并能够知晓Channel是否为诸如读写事件做好准备的组件。这样一个线程可以管理多个Channel,从而管理多个网络连接。
三者之间的对应关系是:
NIO 的线程模型 Reactor
首先是一个前提:CPU的处理速度远远高于IO速度
所有的 I/O操作都可以分为两个部分---等待就绪和读写操作
在传统的BIO模型中,其阻塞就在整个I/O的过程中全部阻塞,当socket调用了read()或者write()时,线程就会一直堵塞住,但是这时候CPU是没有释放的,但是也没有进行任何的处理或者计算,所以这时候的CPU是被浪费掉的,而一般来说读写操作是非常快速的,近乎可以忽略不计,所以对于BIO来说,绝大部分时间CPU是处于“空等”的状态,造成了很大的浪费,而BIO的性能瓶颈就在这里。
NIO的非阻塞体现在第一阶段(等待就绪),与BIO不同的是,这个时候会采用一种轮询的向操作系统询问是否有IO操作到达,如果有就进行读写操作,没有也会立即返回,不会阻塞在等待IO的过程中,这样就可以将CPU释放去进行其他的计算。这样使得线程完全不需要等待IO,就可以完成上千上万的连接处理请求。
下面一张图比较形象直观表达了这一点:
什么是Reactor模型?
按照wiki的说法是
The reactor design pattern is an event handling pattern for handling service requests delivered concurrently to a service handler by one or more inputs. The service handler then demultiplexesthe incoming requests and dispatches them synchronously to the associated request handlers
简单说来就是一种事件驱动的模式,有一个或者多个输入源,并且有一个Service handler将这些请求分发给相应的Request handler。
从上面那张图就可以看出来,无论怎样,总需要一个线程来发现是否有IO操作,在NIO里,主要是Selector的来做这个工作
NIO的Reactor模型主要思想是回调,即事件驱动。一开始的时候向一个线程(即Selector)注册事件(一般来说是读写或者连接事件),当IO就绪时,这个线程会产生对应一个事件,然后交由对应的handler进行处理。
Reactor的单线程和多线程模型主要区别点在于
- 单线程模型只有NIO线程对所有的请求连接,读写操作进行处理,而多线程模型是一组
- 多线程模型是专门有一个NIO线程-Acceptor线程用于监听服务端,接收客户端的请求
NIO和BIO的区别
- NIO是同步非阻塞的IO方式,BIO是同步并阻塞的IO方式
- NIO编程复杂,BIO编程简单
- NIO的同步非阻塞实现方式为设置对与客户端的每个连接都是都会先注册到多路复用器(关于多路复用器),多路复用轮询到有IO请求时才启动一个线程来处理,而BIO是比较简单的线程阻塞到数据到来
- BIO的主要性能差在,对于每一个连接都要有一个线程来进行处理,而NIO可以用很少的线程完成大量的连接处理。而线程的上下文切换是非常耗费CPU资源的。
NIO的原理
由前面的描述可以推得NIO的写法是(以服务端为例):
- 先创建一个Channel ,这个Channel是用来作为服务器传输数据的通道,并将这个Channel绑定到某个端口上,监听这个端口。
2.打开Selector,获取得到一个Selector,然后将Channel注册到这个这个Selector上,同时注册相关事件(读写或连接等事件)
3.之后Selector会一直阻塞到有注册事件的到来,当事件到来时,如果发现是连接事件,则将会向Selector中再次注册这个Channel。读写事件交由其他部分来完成
由以上的分析可以看出,NIO中比较关键的就是Selector,Channel,而这些实例的初始化都需要通过SelectorProvider类实现
public static SelectorProvider provider() {
synchronized (lock) {
if (provider != null)
return provider;
return AccessController.doPrivileged(
new PrivilegedAction<SelectorProvider>() {
public SelectorProvider run() {
if (loadProviderFromProperty())
return provider;
if (loadProviderAsService())
return provider;
provider = sun.nio.ch.DefaultSelectorProvider.create();
return provider;
}
});
}
}
SelectorProvider是什么
直接查阅jdk doc 上面是这么说的
A selector provider is a concrete subclass of this class that has a zero-argument constructor and implements the abstract methods specified below. A given invocation of the Java virtual machine maintains a single system-wide default provider instance, which is returned by the provider method. The first invocation of that method will locate the default provider as specified below.