20170726 文本处理工具(二) grep 正则表达式

一、grep 文本搜索工具

语法:

grep [OPTIONS] PATTERN [FILE...]

选项:

-v     <!--显示不被pattern匹配到的行-->
-i     <!--忽略字符大小写-->
-n     <!--显示匹配的行号-->
-c     <!--统计匹配的行数-->
-o     <!--仅显示匹配到的字符串-->
-q     <!--静默模式,不输出任何信息,可以查看$?判断命令是否成功执行-->
-A #   <!--after, 后#行-->
-B #   <!--before, 前#行-->
-C #   <!--context, 前后各#行-->
-e     <!--实现多个选项间的逻辑or关系-->
-w     <!--匹配整个单词-->
-E     <!--使用ERE扩展正则表达式,相当于egrep命令-->
-F     <!--相当于fgrep,不支持正则表达式-->

实验:

  1. 在/etc/passwd中搜索不包含nologin字符串的行
    命令:grep -v nologin /etc/passwd

  2. 在/etc/passwd中搜索包含tom(不分大小写)字符串的行
    命令:grep -i tom /etc/passwd

  3. 在/etc/passwd显示所有搜索到的bash字符串,并在字符串前输出其所在的行号
    命令:grep -on bash /etc/passwd

  4. 在/etc/passwd中搜索包含mail的行,并且显示其后三行/前三行/前后各三行
    命令:

grep -A 3 mail /etc/passwd
grep -B 3 mail /etc/passwd
grep -C 3 mail /etc/passwd
  1. 在/etc/passwd中搜索有单词root,shutdown,bin的行
    命令:grep -we root -we shutdown -we bin /etc/passwd

二、正则表达式 regular expressions

(一)定义:

由一类特殊字符及文本字符所编写的模式,其中有些字符(元字符)不表示字符字面意义,而表示控制或通配的功能。

(二)程序支持:

grep, sed, awk, vim等

(三)分类:

基本正则表达式(BRE)
扩展正则表达式(ERE)

(四)元字符分类:

字符匹配、匹配次数、位置锚定、分组

三、基本正则表达式元字符

(一)字符匹配

.             <!--匹配任意单个字符-->
[]            <!--匹配指定范围内的任意单个字符-->
[^]           <!--匹配指定范围外的任意单个字符-->
[:digit:]     <!--十进制数字-->
[:alpha:]     <!--任何英文大小写字符-->
[:alnum:]     <!--字母和数字-->
[:lower:]     <!--小写字母-->
[:upper:]     <!--大写字母-->
[:blank:]     <!--空白字符(空格和制表符)-->
[:space:]     <!--水平和垂直的空白字符-->

(二)匹配次数

*           <!--匹配前面的字符任意次,包括0次-->
.*          <!--任意长度的任意字符-->
\?          <!--匹配前面的字符0或1次-->
\+          <!--匹配前面的字符至少1次-->
\{n\}       <!--匹配前面的字符n次-->
\{m,n\}     <!--匹配前面的字符至少m次,至多n次-->
\{,n\}      <!--匹配前面的字符至多n次-->
\{n,\}      <!--匹配前面的字符至少n次-->
  • 实验:
    新建文本文件file1,文件内容如下:


    1. 搜索包含以g开头,中间有任意个数的o,以gle结束的字符串;
      命令:grep go*gle file1

    2. 搜索包含以g开头,中间至少2个字母至多5个字母,以gle结束的字符串;
      命令:grep "g[[:alpha:]]\{2,5\}gle" file1

    3. 搜索包含以g开头,中间至多1个字母,以gle结束的字符串
      命令:grep "g[[:alpha:]]\?gle" file1

(三)位置锚定

^     <!--行首锚定,用于模式的最左侧-->
$     <!--行尾锚定,用于模式的最右侧-->
^PATTERN$     <!--用于模式匹配整行-->
^$     <!--空行,不含空格-->
^[[:space:]]*$     <!--空白行,可能含空格-->
\< 或\b     <!--词首锚定,用于单词模式的左侧-->
\> 或\b     <!--词尾锚定;用于单词模式的右侧-->
\<PATTERN\>匹配整个单词

(四)分组、或者

  • 分组:\(\)将一个或多个字符捆绑在一起,当作一个整体进行处理
  • \1表示从左侧起第一个左括号以及与之匹配右括号之间的模式所匹配到的字符,以此类推
  • 例如:
\(string1\+\(string2\)*\)
\1:string1\+\(string2\)*     \2:string2
  • 后向引用:引用前面的分组括号中的模式所匹配字符,而非模式本身
  • 或者:\|
abc\|cd       <!--abc或者cd-->
a\|bc         <!--a或者bc-->
\(a\|b\)c     <!--ac或者bc-->
  • 实验:
    1. 在/etc/passwd搜索以a开头的用户及其UID,并且按照UID从大到小排序
      命令:grep "^a" /etc/passwd | cut -d: -f1,3 | sort -nr -t: -k2

    2. 在/etc/passwd搜索以s开头中间至少1个英文或数字字符以d结束的单词,英文不分大小写
      命令:grep -i "\<s[[:alnum:]]\+d\>" /etc/passwd

    3. 在/etc/passwd搜索用户名以t开头,且同行包含与用户名相同单词的行
      命令:grep "\(^t.*\>\).*\1" /etc/passwd


      可以从上图看到,tim用户所在的行后tam单词也匹配模式,但是并未搜索到。这证明后向引用前方分组括号中所匹配的字符,而非模式本身。

四、egrep和扩展正则表达式

(一)egrep

egrep = grep -E ,语法与grep相同

(二)扩展正则表达式元字符

  • 扩展正则表达式与基本正则表达式的语法基本相同,仅部分元字符删减了\符号
  • 字符匹配,扩展正则表达式字符匹配元字符与基本正则表达式相同
.       <!--任意单个字符-->
[]      <!--指定范围的字符-->
[^]     <!--不在指定范围的字符-->
  • 匹配次数
*         <!--匹配前面字符任意次-->
?         <!--0或1次,比基本正则表达式省略了\-->
+         <!--1次或多次,比基本正则表达式省略了\-->
{m}       <!--匹配m次,比基本正则表达式省略了\-->
{m,n}     <!--至少m,至多n次,比基本正则表达式省略了\-->
  • 位置锚定,扩展正则表达式位置锚定元字符与基本正则表达式相同
^          <!--行首锚定-->
$          <!--行尾锚定-->
\<, \b     <!--词首锚定-->
\>, \b     <!--语尾锚定-->
  • 分组、或者
()             <!--分组,比基本正则表达式省略了\-->
\1, \2,...     <!--后向引用-->
abc|cd         <!--abc或者cd,比基本正则表达式省略了\-->
a|bc           <!--a或者bc,比基本正则表达式省略了\-->
(a|b)c         <!--ac或者bc,比基本正则表达式省略了\-->
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,088评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,715评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,361评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,099评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,987评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,063评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,486评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,175评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,440评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,518评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,305评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,190评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,550评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,152评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,451评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,637评论 2 335

推荐阅读更多精彩内容