基本解释
/proc/目录中mount的是一种叫proc的linux伪文件系统,主要被用作内核数据结构的接口。我们可以通过如下方法查看其中的伪文件和数值的含义。
$ man proc
......
/proc/loadavg
The first three fields in this file are load average figures giving the number of jobs in the run queue (state R) or waiting
for disk I/O (state D) averaged over 1, 5, and 15 minutes. They are the same as the load average numbers given by uptime(1)
and other programs. The fourth field consists of two numbers separated by a slash (/). The first of these is the number of
currently runnable kernel scheduling entities (processes, threads). The value after the slash is the number of kernel sched‐
uling entities that currently exist on the system. The fifth field is the PID of the process that was most recently created
on the system.
......
这段话大意是说,loadavg文件中前三个字段是平均负载值,分别代表1、5和15分钟的作业(job)数量的平均值,作业(job)包括运行队列(state R)或者等待磁盘I/O(state D)两种类型。这里面有这么几层信息:
- /proc/loadavg中前三个数字分别表示load1、load5、load15的值。
load值代表的是对应时间内的jobs的平均数量,比如load1就表示过去1分钟内的jobs数量的平均值。job主要是一个shell概念,和进程组概念近似,这里应该属于用词不当(后面会分析,准确的用词应该是内核中的tasks或用户空间中的threads概念)。 - 而且只包含state状态为R和D的两种jobs,其他state状态不包含在内。
load2process脚本工具
在这里,我们先抛开复杂的内核代码,直接给大家上干货load2process脚本工具,如下:
$ cat load2process
#!/bin/sh
ps -e -L h o state,ucmd | awk '{if($1=="R"||$1=="D"){print $0}}' | sort | uniq -c | sort -k 1nr
简单解释一下这几个ps命令的参数:
-e参数,显示当前系统中所有进程;
-L参数,对每一个进程信息都展开显示包含的所有线程,每个线程展开一行;
h参数,隐藏ps命令的第一行header标题信息;
o state,ucmd,这里o和state,ucmd是组合在一起生效的,只输出state和ucmd这两列信息,state表示线程状态,ucmd表示线程名称。
load2process下载
R & D状态对Linux load的不同影响
很多团队在对load高进行监控的时候,会对load进行总体监控,并不区分其中的R和D两种类型的具体构成。事实上同样数量的R或D对系统的影响是远远不同的:
- 一般来说如果是R状态为主导致的load高,普通的机器load达到100-200时,系统就会特别卡。更准确的来说,R状态的多少,主要还是要和CPU核数相关,大于主机CPU核数2倍以上,系统就会出现严重问题,出现多个R状态线程争抢CPU资源的情况。
- 如果是D状态为主导致的load高,之前就有个案例,当时系统load高达11000多,但是整个操作系统还能正常服务。D状态为不可中断,此时一般在进行IO。
Linux Load高时的几种场景
既然影响load的线程状态有R和D两种,那么再结合load在不同程序线程之间的聚合情况,系统load高时会有如下四种场景:
- 由单个程序线程R状态高导致。比如load1是200,load2process结果显示“160 R process1”,那么此时可以判断导致load高的主要原因是process1。如果是我们业务自己开发的程序,那么很多时候是由于程序员没有注意并发数限制导致。
- 由多个程序线程R状态高导致。比如load1是200,load2process结果显示“20 R process1,15 R process2,14 R process3,10 R process4.......”,这种情况不常见。
- 由单个程序线程D状态高导致。比如load1是1000,load2process结果显示“950 D process1”。此时可以查看这个程序对应进程的waiting channel信息,/proc/<pid>/wchan,表示当前线程D在这个函数位置。造成进程D住的原因多种多样,需要结合搜索引擎分别分析。
- 由多个程序线程D状态高导致。此时可能操作系统和所在机器整体出现了问题,比如磁盘出现问题。就有人解释状态D的含义是“Disk Sleep”。实际造成的原因也是多种多样。