线程池
什么事线程池
Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或并发执行任务的程序都可以使用线程池。在开发过程中,合理地使用线程池能够带来3个好处。
- 降低资源消耗。通过重复利用已创建的线程降低线程创建和销毁造成的消耗。
- 提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行。
- 提高线程的可管理性。线程是稀缺资源,如果无限制地创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一分配、调优和监控。但是,要做到合理利用线程池,必须对其实现原理了如指掌。
线程池的作用
线程池是为突然大量爆发的线程设计的,通过有限的几个固定线程为大量的操作服务,减少了创建和销毁线程所需的时间,从而提高效率。
如果一个线程的时间非常长,就没必要用线程池了(不是不能作长时间操作,而是不宜。),况且我们还不能控制线程池中线程的开始、挂起、和中止。
线程池的分类
ThreadPoolExecutor
Executor框架的最顶层实现是ThreadPoolExecutor类,Executors工厂类中提供的newScheduledThreadPool、newFixedThreadPool、newCachedThreadPool方法其实也只是ThreadPoolExecutor的构造函数参数不同而已。通过传入不同的参数,就可以构造出适用于不同应用场景下的线程池。
- corePoolSize: 核心池的大小。 当有任务来之后,就会创建一个线程去执行任务,当线程池中的线程数目达到corePoolSize后,就会把到达的任务放到缓存队列当中。
- maximumPoolSize: 线程池最大线程数,它表示在线程池中最多能创建多少个线程。
- keepAliveTime: 表示线程没有任务执行时最多保持多久时间会终止。
- unit: 参数keepAliveTime的时间单位,有7种取值,在TimeUnit类中有7种静态属性。
创建线程池的四中方式
- newCachedThreadPool创建一个可缓存线程池,如果线程池长度超过处理需要,可灵活回收空闲线程,若无可回收,则新建线程。
- newFixedThreadPool 创建一个定长线程池,可控制线程最大并发数,超出的线程会在队列中等待。
- newScheduledThreadPool 创建一个定长线程池,支持定时及周期性任务执行。
- newSingleThreadExecutor 创建一个单线程化的线程池,它只会用唯一的工作线程来执行任务,保证所有任务按照指定顺序(FIFO, LIFO, 优先级)执行。
package top.nightliar.study.day05;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
/**
* 线程池的四种创建方法
* Created by Nightliar
* 2018-09-20 10:46
*/
public class ThreadPoolDemo01 {
public static void main(String[] args) {
// 1. 可缓存,无限大小的线程池
TestCachedThreadPool();
// 2. 定长线程池,可控制线程最大并发数,超出的线程会在队列中等待
TestFixedThreadPool();
// 3. 创建一个定长线程池,支持定时及周期性任务执行
TestScheduledThreadPool();
// 4. 单线程化的线程池,它只会用唯一的工作线程来执行任务,保证所有任务按照指定顺序(FIFO, LIFO, 优先级)执行
TestSingleThreadExecutor();
}
private static void TestCachedThreadPool(){
ExecutorService cachedThreadPool = Executors.newCachedThreadPool();
for (int i = 0; i < 10; i++) {
int temp = i; // 这里如果不更改temp的值,那么jvm中默认temp为final类型
cachedThreadPool.execute(() -> System.out.println(Thread.currentThread().getName() + ",i:" + temp));
}
cachedThreadPool.shutdown();
}
private static void TestFixedThreadPool(){
ExecutorService fixedThreadPool = Executors.newFixedThreadPool(3);
for (int i = 0; i < 10; i++) {
int temp = i; // 这里如果不更改temp的值,那么jvm中默认temp为final类型
fixedThreadPool.execute(() -> System.out.println(Thread.currentThread().getName() + ",i:" + temp));
}
fixedThreadPool.shutdown();
}
private static void TestScheduledThreadPool(){
ScheduledExecutorService scheduledThreadPool = Executors.newScheduledThreadPool(5);
for (int i = 0; i < 10; i++) {
final int temp = i;
// 表示3秒后一起执行
scheduledThreadPool.schedule(() -> System.out.println(Thread.currentThread().getName() + ",i:" + temp), 3, TimeUnit.SECONDS);
}
scheduledThreadPool.shutdown();
}
private static void TestSingleThreadExecutor(){
ExecutorService singleThreadExecutor = Executors.newSingleThreadExecutor();
for (int i = 0; i < 10; i++) {
final int temp = i;
// 单线程执行
singleThreadExecutor.execute(() -> {
System.out.println(Thread.currentThread().getName() + ",i:" + temp);
try {
Thread.sleep(200);
} catch (Exception e) {
e.printStackTrace();
}
});
}
singleThreadExecutor.shutdown();
}
}
线程池的原理
提交一个任务到线程池中,线程池的处理流程如下:
- 判断线程池里的核心线程是否都在执行任务,如果不是(核心线程空闲或者还有核心线程没有被创建)则创建一个新的工作线程来执行任务。如果核心线程都在执行任务,则进入下个流程。
- 线程池判断工作队列是否已满,如果工作队列没有满,则将新提交的任务存储在这个工作队列里。如果工作队列满了,则进入下个流程。
- 判断线程池里的线程是否都处于工作状态,如果没有,则创建一个新的工作线程来执行任务。如果已经满了,则交给饱和策略来处理这个任务。
合理配置线程池
要想合理的配置线程池,就必须首先分析任务特性,可以从以下几个角度来进行分析:
- 任务的性质:CPU密集型任务,IO密集型任务和混合型任务。
- 任务的优先级:高,中和低。
- 任务的执行时间:长,中和短。
- 任务的依赖性:是否依赖其他系统资源,如数据库连接。
- CPU密集型时,任务可以少配置线程数,大概和机器的cpu核数相当,这样可以使得每个线程都在执行任务
- IO密集型时,大部分线程都阻塞,故需要多配置线程数,2*cpu核数
某些进程花费了绝大多数时间在计算上,而其他则在等待I/O上花费了大多是时间,前者称为计算密集型(CPU密集型)computer-bound,后者称为I/O密集型,I/O-bound。
Java锁的深度化
悲观锁
每次去拿数据的时候都认为别人会修改,所以每次在拿数据的时候都会上锁,这样别人想拿这个数据就会block直到它拿到锁。传统的关系型数据库里边就用到了很多这种锁机制,比如行锁,表锁等,读锁,写锁等,都是在做操作之前先上锁。
Select * from xxx for update;
悲观锁:悲观锁悲观的认为每一次操作都会造成更新丢失问题,在每次查询时加上排他锁。
乐观锁
乐观锁( Optimistic Locking ) 相对悲观锁而言,乐观锁机制采取了更加宽松的加锁机制。悲观锁大多数情况下依靠数据库的锁机制实现,以保证操作最大程度的独占性。但随之而来的就是数据库性能的大量开销,特别是对长事务而言,这样的开销往往无法承受。而乐观锁机制在一定程度上解决了这个问题。乐观锁,大多是基于数据版本( Version )记录机制实现。何谓数据版本?即为数据增加一个版本标识,在基于数据库表的版本解决方案中,一般是通过为数据库表增加一个 “version” 字段来实现。读取出数据时,将此版本号一同读出,之后更新时,对此版本号加一。此时,将提交数据的版本数据与数据库表对应记录的当前版本信息进行比对,如果提交的数据版本号大于数据库表当前版本号,则予以更新,否则认为是过期数据。
重入锁
锁作为并发共享数据,保证一致性的工具,在JAVA平台有多种实现(如 synchronized 和 ReentrantLock等等 ) 。这些已经写好提供的锁为我们开发提供了便利。
重入锁,也叫做递归锁,指的是同一线程 外层函数获得锁之后 ,内层递归函数仍然有获取该锁的代码,但不受影响。
package top.nightliar.study.day05;
import java.util.concurrent.locks.ReentrantLock;
/**
* 重入锁
* Created by Nightliar
* 2018-09-20 16:14
*/
public class LockDemo01 {
public static void main(String[] args) {
Syn syn = new Syn();
new Thread(syn).start();
new Thread(syn).start();
new Thread(syn).start();
Lok lok = new Lok();
new Thread(lok).start();
new Thread(lok).start();
new Thread(lok).start();
}
}
class Syn implements Runnable {
@Override
public void run() {
get();
}
private synchronized void get() {
System.out.println(Thread.currentThread().getName() + ", get");
set();
}
private synchronized void set() {
System.out.println(Thread.currentThread().getName() + ", set");
}
}
class Lok implements Runnable {
ReentrantLock lock = new ReentrantLock();
@Override
public void run() {
get();
}
private void get() {
lock.lock();
System.out.println(Thread.currentThread().getName() + ", get");
set();
lock.unlock();
}
private void set() {
lock.lock();
System.out.println(Thread.currentThread().getName() + ", set");
lock.unlock();
}
}
读写锁
相比Java中的锁(Locks in Java)里Lock实现,读写锁更复杂一些。假设你的程序中涉及到对一些共享资源的读和写操作,且写操作没有读操作那么频繁。在没有写操作的时候,两个线程同时读一个资源没有任何问题,所以应该允许多个线程能在同时读取共享资源。但是如果有一个线程想去写这些共享资源,就不应该再有其它线程对该资源进行读或写(注:也就是说:读-读能共存,读-写不能共存,写-写不能共存)。这就需要一个读/写锁来解决这个问题。Java5在java.util.concurrent包中已经包含了读写锁。
package top.nightliar.study.day05;
import java.util.HashMap;
import java.util.Map;
import java.util.concurrent.locks.Lock;
import java.util.concurrent.locks.ReentrantReadWriteLock;
/**
* 读写锁
* Created by Nightliar
* 2018-09-20 16:26
*/
public class LockDemo02 {
public static void main(String[] args) {
new Thread(() ->{
for (int i = 0; i < 10; i++) {
Cache.set(i+"", i+"");
}
}).start();
new Thread(() -> {
for (int i = 0; i < 10; i++) {
Cache.get(i+"");
}
}).start();
}
}
class Cache {
static volatile Map<String, Object> map = new HashMap<>();
static ReentrantReadWriteLock rwl = new ReentrantReadWriteLock();
static Lock r = rwl.readLock();
static Lock w = rwl.writeLock();
/**
* 读
*/
public static Object get(String key){
r.lock();
Object obj = null;
try {
System.out.println("正在做读的操作,key:" + key + " 开始");
Thread.sleep(100);
obj = map.get(key);
System.out.println("正在做读的操作,key:" + key + " 结束,value="+ obj);
System.out.println();
} catch (InterruptedException e) {
e.printStackTrace();
} finally {
r.unlock();
}
return obj;
}
/**
* 写
*/
public static Object set(String key, Object value){
w.lock();
Object obj = value;
try {
System.out.println("正在做写的操作,key:" + key + ",value:" + value + "开始.");
Thread.sleep(100);
obj = map.put(key, value); // 返回旧有的value
System.out.println("正在做写的操作,key:" + key + ",value:" + value + "结束.");
System.out.println();
} catch (InterruptedException e) {
e.printStackTrace();
} finally {
w.unlock();
}
return obj;
}
}
CAS无锁机制
- 与锁相比,使用比较交换(下文简称CAS)会使程序看起来更加复杂一些。但由于其非阻塞性,它对死锁问题天生免疫,并且,线程间的相互影响也远远比基于锁的方式要小。更为重要的是,使用无锁的方式完全没有锁竞争带来的系统开销,也没有线程间频繁调度带来的开销,因此,它要比基于锁的方式拥有更优越的性能。
- 无锁的好处:第一,在高并发的情况下,它比有锁的程序拥有更好的性能;第二,它天生就是死锁免疫的。
- CAS算法的过程:它包含三个参数CAS(V,E,N): V表示要更新的变量,E表示预期值,N表示新值。仅当V值等于E值时,才会将V的值设为N,如果V值和E值不同,则说明已经有其他线程做了更新,则当前线程什么都不做。最后,CAS返回当前V的真实值。
- CAS操作是抱着乐观的态度进行的,它总是认为自己可以成功完成操作。当多个线程同时使用CAS操作一个变量时,只有一个会胜出,并成功更新,其余均会失败。失败的线程不会被挂起,仅是被告知失败,并且允许再次尝试,当然也允许失败的线程放弃操作。基于这样的原理,CAS操作即使没有锁,也可以发现其他线程对当前线程的干扰,并进行恰当的处理。
- 简单地说,CAS需要你额外给出一个期望值,也就是你认为这个变量现在应该是什么样子的。如果变量不是你想象的那样,那说明它已经被别人修改过了。你就重新读取,再次尝试修改就好了。
- 在硬件层面,大部分的现代处理器都已经支持原子化的CAS指令。在JDK 5.0以后,虚拟机便可以使用这个指令来实现并发操作和并发数据结构,并且,这种操作在虚拟机中可以说是无处不在。
自旋锁
自旋锁是采用让当前线程不停地的在循环体内执行实现的,当循环的条件被其他线程改变时 才能进入临界区。
自旋锁只是将当前线程不停地执行循环体,不进行线程状态的改变,所以响应速度更快。但当线程数不停增加时,性能下降明显,因为每个线程都需要执行,占用CPU时间。如果线程竞争不激烈,并且保持锁的时间段。适合使用自旋锁。