使用Linux命令检查Linux服务器性能

如果你的Linux服务器突然负载暴增,告警短信快发爆你的手机,如何在最短时间内找出Linux性能问题所在?Netflix性能工程团队的Brendan Gregg写下了这篇博文,来看他们是怎样通过十条命令在一分钟内对机器性能问题进行诊断。

1. 概述

1. uptime
2. dmesg | tail
3. vmstat 1
4. mpstat -P ALL 1
5. pidstat 1
6. iostat -xz 1
7. free -m
8. sar -n DEV 1
9. sar -n TCP,ETCP 1
10. top

其中一些命令需要安装sysstat包,有一些由procps包提供。这些命令的输出,有助于快速定位性能瓶颈,检查出所有资源(CPU、内存、磁盘IO等)的利用率(utilization)、饱和度(saturation)和错误(error)度量,也就是所谓的USE方法。

2. 命令介绍

  • uptime命令
[root@Dev-Test-203 ~]# uptime
 16:44:05 up 14 days, 11 min,  2 users,  load average: 0.03, 0.06, 0.11

这个命令可以快速查看机器的负载情况。在Linux系统中,这些数据表示等待CPU资源的进程和阻塞在不可中断IO进程(进程状态为D)的数量。这些数据可以让我们对系统资源使用有一个宏观的了解。

命令的输出分别表示1分钟、5分钟、15分钟的平均负载情况。通过这三个数据,可以了解服务器负载是在趋于紧张还是区域缓解。如果1分钟平均负载很高,而15分钟平均负载很低,说明服务器正在命令高负载情况,需要进一步排查CPU资源都消耗在了哪里。反之,如果15分钟平均负载很高,1分钟平均负载较低,则有可能是CPU资源紧张时刻已经过去。

上面例子中的输出,可以看见最近1分钟的平均负载非常高,且远高于最近15分钟负载,因此我们需要继续排查当前系统中有什么进程消耗了大量的资源。可以通过下文将会介绍的vmstat、mpstat等命令进一步排查。

  • dmesg | tail 命令
[root@Dev-Test-203 ~]# dmesg | tail
[1210442.606862] udevadm[27145]: Successfully loaded SELinux database in 4.303ms, size on heap is 314K.
[1210442.606882] udevadm[27145]: calling: info
[1210442.616993] udevadm[27147]: Successfully loaded SELinux database in 15.054ms, size on heap is 314K.
[1210442.617028] udevadm[27147]: calling: info
[1210442.624811] udevadm[27150]: Successfully loaded SELinux database in 8.161ms, size on heap is 314K.
[1210442.624832] udevadm[27150]: calling: info
[1210442.633353] udevadm[27153]: Successfully loaded SELinux database in 5.328ms, size on heap is 314K.
[1210442.633380] udevadm[27153]: calling: info
[1210442.646637] udevadm[27158]: Successfully loaded SELinux database in 4.374ms, size on heap is 314K.
[1210442.646656] udevadm[27158]: calling: info

该命令会输出系统日志的最后10行。这些日志可以帮助排查性能问题。千万不要忘了这一步。

  • vmstat 1 命令
[root@Dev-Test-203 ~]# vmstat 1
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free         buff  cache       si   so    bi    bo   in   cs us sy id wa st
 0  0  32608 233992    916 2008624    0    0     1    10    7    7  3  3 94  0  0
 5  0  32608 231060    916 2008652    0    0     0     9 4505 6121  8 15 77  0  0
 0  0  32608 233396    916 2008688    0    0     0     0 7646 10633 12 14 74  0  0
 0  0  32608 232608    916 2008648    0    0     0   114 7189 11091  8  5 86  1  0
 0  0  32608 233028    916 2008656    0    0     0     0 1338 1987  2  1 98  0  0
 0  0  32608 233028    916 2008660    0    0     0     0 1243 1876  1  1 98  0  0
 0  0  32608 232604    916 2008660    0    0     0    18 2001 2659  3  2 95  1  0
 0  0  32608 232656    916 2008668    0    0     0     0 1481 2167  1  1 98  0  0
 0  0  32608 232636    916 2008676    0    0     0   151 1666 2315  5  1 94  1  0
 0  0  32608 232532    916 2008680    0    0     0     0 1302 1758  2  1 97  0  0
 0  0  32608 232532    916 2008684    0    0     0     0 1516 2335  2  1 97  0  0
 5  0  32608 230012    916 2008688    0    0     0     9 3579 5516 10 13 77  0  0

vmstat命令,每行会输出一些系统核心指标,这些指标可以让我们更详细的了解系统状态。后面跟的参数1,表示每秒输出一次统计信息,表头提示了每一列的含义,这几介绍一些和性能调优相关的列:

  • r:等待在CPU资源的进程数。这个数据比平均负载更加能够体现CPU负载情况,数据中不包含等待IO的进程。如果这个数值大于机器CPU核数,那么机器的CPU资源已经饱和。

  • free:系统可用内存数(以千字节为单位),如果剩余内存不足,也会导致系统性能问题。下文介绍到的free命令,可以更详细的了解系统内存的使用情况。

  • si, so:交换区写入和读取的数量。如果这个数据不为0,说明系统已经在使用交换区(swap),机器物理内存已经不足。

  • us, sy, id, wa, st:这些都代表了CPU时间的消耗,它们分别表示用户时间(user)、系统(内核)时间(sys)、空闲时间(idle)、IO等待时间(wait)和被偷走的时间(stolen,一般被其他虚拟机消耗)。

上述这些CPU时间,可以让我们很快了解CPU是否出于繁忙状态。一般情况下,如果用户时间和系统时间相加非常大,CPU出于忙于执行指令。如果IO等待时间很长,那么系统的瓶颈可能在磁盘IO。

  • mpstat -P ALL 1 命令
[root@Dev-Test-203 ~]# mpstat -P ALL 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203)  05/09/2017      _x86_64_        (4 CPU)

04:52:23 PM  CPU    %usr   %nice    %sys %iowait    %irq   %soft  %steal  %guest  %gnice   %idle
04:52:24 PM  all    1.75    0.00    1.00    0.00    0.00    0.00    0.00    0.00    0.00   97.24
04:52:24 PM    0    3.00    0.00    2.00    0.00    0.00    0.00    0.00    0.00    0.00   95.00
04:52:24 PM    1    2.00    0.00    1.00    0.00    0.00    0.00    0.00    0.00    0.00   97.00
04:52:24 PM    2    1.00    0.00    1.00    0.00    0.00    0.00    0.00    0.00    0.00   98.00
04:52:24 PM    3    1.00    0.00    1.00    0.00    0.00    0.00    0.00    0.00    0.00   98.00

该命令可以显示每个CPU的占用情况,如果有一个CPU占用率特别高,那么有可能是一个单线程应用程序引起的。

  • pidstat 1 命令
[root@Dev-Test-203 ~]# pidstat 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203)  05/09/2017      _x86_64_        (4 CPU)

04:54:13 PM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
04:54:14 PM   102      4768    0.96    0.96    0.00    1.92     1  redis-server
04:54:14 PM   106      7208    0.00    0.96    0.00    0.96     0  haproxy
04:54:14 PM     0      8994    0.96    2.88    0.00    3.85     3  pidstat
04:54:14 PM     0     12940    4.81    0.96    0.00    5.77     0  dockerd
04:54:14 PM     0     12960    0.00    0.96    0.00    0.96     3  loop0
04:54:14 PM     0     16610    0.96    0.00    0.00    0.96     3  rancher-metadat
04:54:14 PM     0     17338    0.96    0.00    0.00    0.96     1  plugin-manager
04:54:14 PM     0     24713   10.58    9.62    0.00   20.19     1  cadvisor
04:54:14 PM   109     27286    1.92    1.92    0.00    3.85     3  beam.smp
04:54:14 PM   999     27733    0.96    0.96    0.00    1.92     1  daphne

pidstat命令输出进程的CPU占用率,该命令会持续输出,并且不会覆盖之前的数据,可以方便观察系统动态。

  • iostat -xz 1 命令
[root@Dev-Test-203 ~]# iostat -xz 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203)  05/09/2017      _x86_64_        (4 CPU)

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           3.49    0.00    2.65    0.23    0.00   93.63

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
sda               0.01     0.15    0.08    2.08     2.06    21.69    22.02     0.03   12.92    5.26   13.21   5.21   1.12
dm-0              0.00     0.00    0.08    2.13     2.00    21.28    21.10     0.03   13.65    5.29   13.94   5.08   1.12
dm-1              0.00     0.00    0.01    0.10     0.03     0.40     8.01     0.00   19.17    8.54   20.04   0.25   0.00
dm-2              0.00     0.00    0.00    0.00     0.00     0.00    27.20     0.00   10.77    6.23   17.66   5.07   0.00
dm-3              0.00     0.00    0.03    0.09     0.57     1.63    38.43     0.00    8.55    2.50   10.28   4.03   0.05
dm-4              0.00     0.00    0.00    0.00     0.04     0.01    59.16     0.00    3.76    3.44    5.59   2.00   0.00
dm-5              0.00     0.00    0.00    0.00     0.01     0.00    53.15     0.00    2.74    1.85   11.37   1.02   0.00
dm-7              0.00     0.00    0.00    0.00     0.01     0.09    41.04     0.00    6.63    3.26    7.06   4.42   0.00
dm-8              0.00     0.00    0.00    0.00     0.01     0.08    36.56     0.00    4.91    1.87    5.22   4.78   0.00
dm-9              0.00     0.00    0.00    0.01     0.02     0.09    29.21     0.00    6.90    2.31    7.40   3.35   0.00
dm-10             0.00     0.00    0.00    0.00     0.04     0.00    64.19     0.00    1.60    1.01   11.22   0.64   0.00
dm-11             0.00     0.00    0.00    0.00     0.01     0.00    40.18     0.00    7.79    6.85   18.77   1.47   0.00
dm-12             0.00     0.00    0.00    0.00     0.01     0.00    43.22     0.00    1.72    1.69    1.98   1.33   0.00
dm-13             0.00     0.00    0.00    0.00     0.02     0.00    52.31     0.00    3.18    2.19   14.03   0.96   0.00
dm-6              0.00     0.00    0.00    0.00     0.02     0.00    63.19     0.00    1.49    0.90    6.86   1.13   0.00
dm-14             0.00     0.00    0.00    0.00     0.02     0.00    60.85     0.00    4.88    3.77   17.47   1.37   0.00
dm-15             0.00     0.00    0.00    0.00     0.03     0.01    51.59     0.00    5.24    3.76    6.88   3.00   0.00
dm-16             0.00     0.00    0.00    0.00     0.06     0.03    52.55     0.00    4.52    3.33    6.92   2.56   0.00
dm-17             0.00     0.00    0.01    0.04     0.09     0.97    45.18     0.00   11.00    4.92   11.77   7.90   0.04
dm-18             0.00     0.00    0.00    0.00     0.01     0.00    43.23     0.00    4.25    1.18   27.08   1.24   0.00
dm-19             0.00     0.00    0.00    0.00     0.03     0.00    35.95     0.00    1.69    0.09   18.49   0.17   0.00

iostat命令主要用于查看机器磁盘IO情况。该命令输出的列,主要含义是:

  • r/s, w/s, rkB/s, wkB/s:分别表示每秒读写次数和每秒读写数据量(千字节)。读写量过大,可能会引起性能问题。

  • await:IO操作的平均等待时间,单位是毫秒。这是应用程序在和磁盘交互时,需要消耗的时间,包括IO等待和实际操作的耗时。如果这个数值过大,可能是硬件设备遇到了瓶颈或者出现故障。

  • avgqu-sz:向设备发出的请求平均数量。如果这个数值大于1,可能是硬件设备已经饱和(部分前端硬件设备支持并行写入)。

  • %util:设备利用率。这个数值表示设备的繁忙程度,经验值是如果超过60,可能会影响IO性能(可以参照IO操作平均等待时间)。如果到达100%,说明硬件设备已经饱和。

如果显示的是逻辑设备的数据,那么设备利用率不代表后端实际的硬件设备已经饱和。值得注意的是,即使IO性能不理想,也不一定意味这应用程序性能会不好,可以利用诸如预读取、写缓存等策略提升应用性能。

  • free –m 命令
[root@Dev-Test-203 ~]# free -m
              total        used        free      shared  buff/cache   available
Mem:           3790        1620         197         211        1973        1633
Swap:          3967          31        3936

free命令可以查看系统内存的使用情况,-m参数表示按照兆字节展示。最后两列分别表示用于IO缓存的内存数,和用于文件系统页缓存的内存数。需要注意的是,如果出现行-/+ buffers/cache,看上去缓存占用了大量内存空间。这是Linux系统的内存使用策略,尽可能的利用内存,如果应用程序需要内存,这部分内存会立即被回收并分配给应用程序。因此,这部分内存一般也被当成是可用内存。

如果可用内存非常少,系统可能会动用交换区(如果配置了的话),这样会增加IO开销(可以在iostat命令中提现),降低系统性能。

  • sar -n DEV 1 命令
[root@Dev-Test-203 ~]# sar -n DEV 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203)  05/09/2017      _x86_64_        (4 CPU)

04:58:58 PM     IFACE   rxpck/s   txpck/s    rxkB/s    txkB/s   rxcmp/s   txcmp/s  rxmcst/s
04:58:59 PM veth4e7f1d9f      4.00      4.00      0.98      3.39      0.00      0.00      0.00
04:58:59 PM veth36889dc3      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM veth3d7a6375      7.00      8.00      0.48      0.65      0.00      0.00      0.00
04:58:59 PM veth5b95b0ac      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM vethbed2b08d      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM vethf6fc7307      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM        lo      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM    enp4s0     48.00     34.00      9.72      4.64      0.00      0.00      0.00
04:58:59 PM    enp6s0      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM veth5c95e8a      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM vethd0c9b86     14.00     13.00     82.92      1.42      0.00      0.00      0.00
04:58:59 PM veth852aa04f     23.00     23.00      6.19      6.25      0.00      0.00      0.00
04:58:59 PM vethab289cc8      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM docker_gwbridge      0.00      0.00      0.00      0.00      0.00      0.00      0.00
04:58:59 PM   docker0     25.00     25.00     84.73      6.21      0.00      0.00      0.00

sar命令在这里可以查看网络设备的吞吐率。在排查性能问题时,可以通过网络设备的吞吐量,判断网络设备是否已经饱和。

  • sar -n TCP,ETCP 1 命令
[root@Dev-Test-203 ~]# sar -n TCP,ETCP 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203)  05/09/2017      _x86_64_        (4 CPU)

05:20:58 PM  active/s passive/s    iseg/s    oseg/s
05:20:59 PM      2.00      0.00     32.00     38.00

05:20:58 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
05:20:59 PM      0.00      0.00      0.00      0.00      0.00

05:20:59 PM  active/s passive/s    iseg/s    oseg/s
05:21:00 PM      9.00      0.00     63.00    204.00

05:20:59 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
05:21:00 PM      4.00      0.00      0.00      0.00      8.00

05:21:00 PM  active/s passive/s    iseg/s    oseg/s
05:21:01 PM      0.00      0.00     12.00     13.00

05:21:00 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
05:21:01 PM      0.00      0.00      0.00      0.00      0.00

05:21:01 PM  active/s passive/s    iseg/s    oseg/s
05:21:02 PM      0.00      0.00     22.00     27.00

05:21:01 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
05:21:02 PM      0.00      0.00      0.00      0.00      0.00

sar命令在这里用于查看TCP连接状态,其中包括:

  • active/s:每秒本地发起的TCP连接数,既通过connect调用创建的TCP连接;
  • passive/s:每秒远程发起的TCP连接数,即通过accept调用创建的TCP连接;
  • retrans/s:每秒TCP重传数量;

TCP连接数可以用来判断性能问题是否由于建立了过多的连接,进一步可以判断是主动发起的连接,还是被动接受的连接。TCP重传可能是因为网络环境恶劣,或者服务器压力过大导致丢包。

  • top命令
[root@Dev-Test-203 ~]# top
top - 17:23:42 up 14 days, 50 min,  2 users,  load average: 6.79, 2.41, 0.96
Tasks: 397 total,   1 running, 396 sleeping,   0 stopped,   0 zombie
%Cpu(s):  9.9 us, 11.2 sy,  0.0 ni, 78.7 id,  0.0 wa,  0.0 hi,  0.2 si,  0.0 st
KiB Mem :  3881888 total,   203632 free,  1657044 used,  2021212 buff/cache
KiB Swap:  4063228 total,  4030692 free,    32536 used.  1676340 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND                                                                                                                
24713 root      20   0  513752 157296   7476 S   7.0  4.1 100:58.55 cadvisor                                                                                                               
11943 root      20   0 1086896  35264   9264 S   6.3  0.9 133:55.98 telegraf                                                                                                               
 9561 root      20   0 1097140  38020   9232 S   6.0  1.0 136:29.51 telegraf                                                                                                               
19998 root      20   0  648876  30200   9456 S   4.3  0.8  96:42.35 telegraf                                                                                                               
12940 root      20   0 2558440  92736  20692 S   3.0  2.4  53:01.38 dockerd                                                                                                                
12948 root      20   0 1424740  19336   4492 S   2.7  0.5  14:51.40 docker-containe                                                                                                        
27286 109       20   0 2253776  96864   3268 S   2.7  2.5  57:25.64 beam.smp                                                                                                               
27733 polkitd   20   0  265736  75964   8556 S   2.0  2.0  35:29.90 daphne                                                                                                                 
11698 telegraf  20   0  497988  23824   9232 S   1.7  0.6  45:52.80 telegraf                                                                                                               
 4768 102       20   0   36996   3104   1348 S   1.0  0.1   4:20.36 redis-server                                                                                                           
  513 root      20   0   36820   5756   5468 S   0.7  0.1  16:51.69 systemd-journal                                                                                                        
  922 root      20   0  467664   7584   6496 S   0.7  0.2  15:57.66 rsyslogd                                                                                                               
32741 root      20   0  157980   2576   1532 R   0.7  0.1   0:00.21 top                                                                                                                    
    9 root      20   0       0      0      0 S   0.3  0.0  15:43.40 rcu_sched                                                                                                              
  586 106       20   0   38492   1656    388 S   0.3  0.0   0:00.01 haproxy                                                                                                                
15710 root      20   0  142904   5140   3876 S   0.3  0.1   0:00.28 sshd          

top命令包含了前面好几个命令的检查的内容。比如系统负载情况(uptime)、系统内存使用情况(free)、系统CPU使用情况(vmstat)等。因此通过这个命令,可以相对全面的查看系统负载的来源。同时,top命令支持排序,可以按照不同的列排序,方便查找出诸如内存占用最多的进程、CPU占用率最高的进程等。
但是,top命令相对于前面一些命令,输出是一个瞬间值,如果不持续盯着,可能会错过一些线索。这时可能需要暂停top命令刷新,来记录和比对数据。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,529评论 5 475
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,015评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,409评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,385评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,387评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,466评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,880评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,528评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,727评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,528评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,602评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,302评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,873评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,890评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,132评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,777评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,310评论 2 342

推荐阅读更多精彩内容