Shell编程之Linux文本处理三剑客(grep,sed,awk)

1. 引入

指令 作用 应用场景
grep 文本过滤/搜索工具 分析日志 如:找500错误 201等
sed 文本编辑工具(行) 写shell脚本,修改配置文件
awk 文本报告生成器(列) 查看数据,比如ps -aux 赛选指定列

1.1. 常用命令储备

1.1.1. 统计命令(wc)
  • 语法:wc 选项 文件名
  • 参数:
参数 作用
-l 统计行
-w 统计单词数
-m 统计字符数
1.1.2. 查看文件(tail)
  • 语法:tail 参数 路径及文件名
  • 参数:
参数 作用
-数字 查看后n行
-f 实时监控文件更新内容
1.1.3. 查看文件(head)
  • 语法:head 参数 路径及文件名
  • 参数:
参数 作用
-数字 查看前n行
-c 前n个字节

2. grep

2.1. 简介

  • 说明:grep命令是一种强大的文本搜索工具
  • 作用:使用正则表达式搜索文本,并把匹配的行打印出来

2.2. 语法

  • 语法:grep [参数] 内容 路径及文件名 (支持正则)
  • 参数:(可以通过命令grep --help查看)
参数 作用
-c 只输出匹配行的计数。
-i 不区分大小写。
-h 查询多文件时不显示文件名。
-l 查询多文件时只输出包含匹配字符的文件名。
-n 显示匹配行及行号。
-s 不显示不存在或无匹配文本的错误信息。
-v 显示不包含匹配文本的所有行。
--color=auto 可以将找到的关键词部分加上颜色的显示。
  • 正则:
正      则 作      用
^ 开头 如:'^grep'匹配所有以grep开头的行。
$ 结束 如:'grep$'匹配所有以grep结尾的行。
. 匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。
* 匹配零个或多个先前字符
[] 匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。
[^] 匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。
\(..\) 标记匹配字符,如'\(love\)',love被标记为1。
\ 锚定单词的开始,如:'\grep匹配包含以grep开头的单词的行。
\> 锚定单词的结束,如'grep\>'匹配包含以grep结尾的单词的行。
x\{m\} 重复字符x,m次,如:'0\{5\}'匹配包含5个o的行。
x\{m,\} 重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行。
x\{m,n\} 重复字符x,至少m次,不多于n次,如:'o\{5,10\}'匹配5--10个o的行。

2.3. 示例

  • 匹配禁止登陆的用户:
grep '/usr/sbin/nologin' /etc/passwd
  • 匹配禁止登陆的用户(高亮):
grep --color '/usr/sbin/nologin' /etc/passwd
  • 匹配禁止登陆的用户(高亮 + 行号 + 不区分大小写):
grep --color -in '/usr/sbin/nologin' /etc/passwd
  • 统计禁止登陆用户个数:
grep --color -in '/usr/sbin/nologin' /etc/passwd | wc -l
  • 统计正常登陆用户个数(多学一招:wc -l 路径及文件名 统计总行数):
grep -c '/bin/bash' /etc/passwd
  • 匹配用户编号在1000-1999之间的所有用户数据:
grep --color -ni 'x:1[0-9]\{3\}' /etc/passwd
  • 配用户含test的所有用户:
grep --color -ni 'test' /etc/passwd

3. sed(行)

3.1. 简介

  • 说明:sed是一个文本编辑工具
  • 作用:匹配修改/删除文件行数据

3.2. 语法

  • 语法:sed 选项 '规则' 路径及文件名
  • 参数:
    -i :直接修改读取的文件内容,而不是输出到终端( insert)
  • 规则:
规则参数 作用 语法 说明
a (append) 追加 /旧数据/a \新数据 当前行追加文本(后面写入数据)
i (insert) 插入 /旧数据/i \新数据 当前行上面插入文本
d (delete) 删除 /旧数据/d 删除
s (replace) 替换 s/旧数据/新数据/g 注:不写g则只处理每行匹配的第一个结果

3.3. 示例

  • 准备:复制/etc/passwd到当前目录下
cp /etc/passwd sed.txt
  • 匹配test更改为test_update(查看结果不修改源文件)
sed 's/test/test_update/' sed.txt
  • 匹配test更改为test_update(改源文件)
sed -i 's/test/test_update/' sed.txt
  • 匹配1006前面插入数据555
sed -i '/1006/i \555' sed.txt
  • 匹配1006后面追加数据777
sed -i '/1006/a \555' sed.txt
  • 匹配555并删除
sed -i '/555/d' sed.txt
  • 匹配用户编号在1000-1999之间的所有用户编号数据改为6666
sed -i 's/x:1[0-9]\{3\}/x:6666/' sed.txt
  • 匹配用户编号在1000-1999之间的所有用户编号和用户组编号数据改为6666
sed -i 's/1[0-9]\{3\}/6666/g' sed.txt

4. awk(列)

4.1. 简介

  • 说明:awk是一个文本处理工具(文本报告生成器)
  • 作用:提取列数据

4.2. 语法

  • 语法:awk '条件{动作1},...,条件2{动作2}' 路径及文件名
  • 说明:默认制表符分隔每列,更改{FS=“:”}
  • 说明:文件扫描前进行的操作BEGIN{} 或 后面扫描后进行的操作END{}

4.3. 示例

  • 查看进程:ps -aux (all-所有进程,u-进程详细,x-没有终端控制的进程)

  • 通过awk显示ps -aux里面用户和PID列

ps -aux | awk '{print $1 "-" $2}'
  • 通过awk显示/etc/passwd第一列数据(注:需要更改列分隔符)
awk 'BEGIN{FS=":"}{print $1}' /etc/passwd
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,053评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,527评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,779评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,685评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,699评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,609评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,989评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,654评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,890评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,634评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,716评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,394评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,976评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,950评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,191评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,849评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,458评论 2 342

推荐阅读更多精彩内容