set -u
当脚本中有未定义的变量时,脚本在执行过程中是默认忽略的,但是我们希望脚本报错并停止执行,所以用这个命令就可以实现
set -x
这个常在调试脚本的时候使用,它可以看到每个执行的命令,和执行命令后的输出结果
set -e
脚本中有任何命令的返回值是非零,脚本则停止继续执行。
set -o pipefail
如果管道中的所有命令都成功退出,则返回零
AWK
awk 是一种编程语言,用于在linux/unix下对文本和数据进行处理。
数据可以来自标准输入、一个或多个文件,或其它命令的输出。
支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。
在命令行中使用,但更多是作为脚本来使用。
awk的处理文本和数据的方式是这样的,它逐行扫描文件,从第一行到最后一行,寻找匹配的特定模式的行,并在这些行上进行你想要的操作。如果没有指定处理动作,则把匹配的行显示到标准输出(屏幕),如果没有指定模式,则所有被操作所指定的行都被处理。
awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人,分别是Alfred Aho、Brian Kernighan、Peter Weinberger。
gawk是awk的GNU版本,它提供了Bell实验室和GNU的一些扩展
语法格式
awk [options] 'commands' filenames
awk [options] -f awk-script-file filenames
options:
-F 对于每次处理的内容,可以指定一个子定义的分隔符,默认的分隔符是空白字符(空格或 tab 键 )
command:
BEGIN{} {} END{}
处理所有内容之前的动作 处理内容中的动作 处理所有内容之后的动作
awk工作原理
(1)awk,会处理文件的每一个行,每次处理时,使用一行作为输入,并将这一行赋给内部变量$0,每一行也可称为一个记录,以换行符结束
(2)然后,行被:(默认为空格或制表符)分解成字段(或称为域),每个字段存储在已编号的变量中,从$1开始,
最多达100个字段
(3)awk如何知道用空白字符来分隔字段的呢? 因为有一个内部变量FS来确定字段分隔符。初始时,FS赋为空白字符
(4)awk打印字段时,将以内置的方法使用 print 函数打印,awk 在打印出的字段间加上空格。这个空格是内部的一个变量 OFS 输出字段的分隔符, 逗号 ' , ' 会和 OFS 进行映射,通过 OFS 可以控制这个输出分隔符的值。
(5)awk输出之后,将从文件中获取另一行,并将其存储在$0中,覆盖原来的内容,然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕
重要的内部变量
\$0 : awk变量 \$0 保存当前正在处理的行内容
NR : 当前正在处理的行是 awk 总共处理的行号。
$NR: 显示第一行
FNR: 当前正在处理的行在其文件中的行号。
NF :每行被处理时的总字段数
$NF: 显示最后一 列
FS : 输入行时的字段分隔符,默认空格
OFS : 输出字段分隔符,默认是一个 空格
ORS 输出记录分隔符, 默认是换行符
ORS默认输出一条记录应该回车,但是这里是加了一个空格
格式化输出
%s 字符类型
%d 数值类型
%f 浮点类型
%-15s占15字符 - 表示左对齐,默认是右对齐
printf 默认不会在行尾自动换行,加 \
这些参数只会在printf 函数中执行
awk模式和动作
模式包括两个特殊字段 BEGIN 和 END,模式也可以是正则表达式:
awk '/^root/' /etc/passwd
awk '$0 ~ /^root/' /etc/passwd
awk '!/root/' passwd
awk '$0 !~ /^root/' /etc/passwd
比较表达式采用对文本进行比较,只有当条件为真,才执行指定的动作。
比较表达式使用关系运算符,用于比较数字与字符串。
关系运算符有
< 小于 例如 x<y
大于 x>y
<= 小于或等于 x<=y
== 等于 x==y
!= 不等于 x!=y
= 大于等于 x>=y
awk正则示例之指定分隔符
➜ ~ echo "a b|c d| ||||e | |" |awk -F'[ |]' '{print $10}'
e
➜ ~ echo "a b|c d| ||||e | |" |awk -F'[ |]+' '{print $5}'
e
第一个指定了分隔符为空格和 | ,所以数的时候看到空格或者 | 就需要分一段,数有几个分隔符之后+1就可以得到它的位置参数
第二个指定分隔符为空格和 | 并且+,意思就是空格和| 可以不按顺序出现一次或者多次,那就意味着他们两个可以一起出现N次,所以后面那一串东西算一个分隔符
awk
记录变量
$0 : 当前正在处理的行内容
NR : 当前正在处理的行是 awk 总共处理的行号。
FNR: 当前正在处理的行在其文件中的行号。
NF :每行被处理时的总字段数
$NF : 每一行的最后一列
$NR :选出第一行
格式化输出
[root@rourou ~]# awk -F: '{printf "%-15s %-10s %-15d\n",$1,$2,$3}' /etc/passwd
root x 0
bin x 1
daemon x 2
adm x 3
lp x 4
sync x 5
shutdown x 6
第一位的值空15个字符型的空,第二位的值空10个字符型的空,第三位的值空15个整形的空
规定:
%s 字符类型
%d 数值类型
%f 浮点类型
%-15s占15字符 - 表示左对齐,默认是右对齐
printf 默认不会在行尾自动换行,加 \n
正则表达式
awk '/^root/' /etc/passwd 查找以root为开头的行
awk '$0 ~ /^root/' /etc/passwd 与上一行一样
awk '!/root/' passwd 包含root的行
awk '$0 !~ /^root/' /etc/passwd 与上一行相同
~为正则匹配,!取反
Ps:
[root@rourou ~]# awk -F: '$3 == 0' /etc/passwd
root:x:0:0:root:/root:/bin/bash
查找第三列为0的行
同样的可以得到:
awk -F: '$3 < 10' /etc/passwd
awk -F: '$NF == "/bin/bash"' /etc/passwd
awk -F: '$1 == "root"' /etc/passwd
条件表达式
awk -F: '$3>300 {print $0}' /etc/passwd
awk -F: '{ if($3>300) print $0 }' /etc/passwd
awk -F: '{ if($3>300) {print $0} }' /etc/passwd
awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd