一、什么是awk
awk
是Linux
下的一个命令,他对其他命令的输出,对文件的处理都十分强大,其实他更像一门编程语言,他可以自定义变量,有条件语句,有循环,有数组,有正则,有函数等。他读取输出,或者文件的方式是一行,一行的读,根据你给出的条件进行查找,并在找出来的行中进行操作,感觉他的设计思想,真的很简单,但是结合实际情况,具体操作起来就没有那么简单了。他有三种形势,awk
,gawk
,nawk
,平时所说的awk
其实就是gawk
。
二、awk命令格式和选项
·2.1 语法形式
awk [options] 'script' var=value file(s)
awk [options] -f scriptfile var=value file(s)
·尽管操作可能会很复杂,但语法总是这样,其中 pattern
表示 awk
在数据中查找的内容,而 action
是在找到匹配内容时所执行的一系列命令。花括号({}
)不需要在程序中始终出现,但它们用于根据特定的模式对一系列指令进行分组。 pattern
就是要表示的正则表达式,用斜杠括起来。
·awk
语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息,awk
抽取信息后,才能进行其他文本操作。完整的awk
脚本通常用来格式化文本文件中的信息。
·通常,awk
是以文件的一行为处理单位的。awk
每接收文件的一行,然后执行相应的命令,来处理文本。
·2.2 命令选项
-F fs or --field-separator fs
指定输入文件折分隔符,fs
是一个字符串或者是一个正则表达式,如-F:
。
-v var=value or --asign var=value
赋值一个用户定义变量。
-f scripfile or --file scriptfile
从脚本文件中读取awk命令。
-mf nnn and -mr nnn
对nnn
值设置内在限制,-mf
选项限制分配给nnn
的最大块数目;
-mr
选项限制记录的最大数目。这两个功能是Bell实验室版awk
的扩展功能,在标准awk
中不适用。
-W compact or --compat, -W traditional or --traditional
在兼容模式下运行awk
。所以gawk
的行为和标准的awk
完全一样,所有的awk
扩展都被忽略。
-W copyleft or --copyleft, -W copyright or --copyright
打印简短的版权信息。
-W help or --help, -W usage or --usage
打印全部awk
选项和每个选项的简短说明。
-W lint or --lint
打印不能向传统unix
平台移植的结构的警告。
-W lint-old or --lint-old
打印关于不能向传统unix
平台移植的结构的警告。
-W posix
打开兼容模式。但有以下限制,不识别:\x
、函数关键字、func
、换码序列以及当fs是一个空格时,将新行作为一个域分隔符;操作符**
和**=
不能代替^
和^=
;fflush
无效。
-W re-interval or --re-inerval
允许间隔正则表达式的使用,参考(grep
中的Posix
字符类),如括号表达式[[:alpha:]]
。
-W source program-text or --source program-text
使用program-text
作为源代码,可与-f
命令混用。
-W version or --version
打印bug
报告信息的版本。
三、awk的正则
匹配符 | 描述 |
---|---|
\Y | 匹配一个单词开头或者末尾的空字符串 |
\B | 匹配单词内的空字符串 |
< | 匹配一个单词的开头的空字符串,锚定开始 |
> | 匹配一个单词的末尾的空字符串,锚定末尾 |
\W | 匹配一个非字母数字组成的单词 |
\w | 匹配一个字母数字组成的单词 |
' | 匹配字符串末尾的一个空字符串 |
\‘ | 匹配字符串开头的一个空字符串 |
四、awk的函数
·4.1 字符串函数
函数名 | 描述 |
---|---|
sub | 匹配记录中最大、最靠左边的子字符串的正则表达式,并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的 时候 |
gsub | 整个文档中进行匹配 |
index | 返回子字符串第一次被匹配的位置,偏移量从位置1开始 |
substr | 返回从位置1开始的子字符串,如果指定长度超过实际长度,就返回整个字符串 |
split | 可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供,则按当前FS值进行分割 |
length | 返回记录的字符数 |
match | 返回在字符串中正则表达式位置的索引,如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位 置,RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串 |
toupper和tolower | 可用于字符串大小间的转换,该功能只在gawk中有效 |
·4.2 数学函数
函数名 | 返回值 |
---|---|
atan2(x,y) | y,x 范围内的余切 |
cos(x) | 余弦函数 |
exp(x) | 求 幂 |
int(x) | 取整 |
log(x) | 自然对 数 |
rand() | 随机数 |
sin(x) | 正弦 |
sqrt(x) | 平 方根 |
srand(x) | x是rand()函数的种子 |
int(x) | 取 整,过程没有舍入 |
rand() | 产生一个大于等于0而小于1的随机数 |
五、入门实例
·假设last -n 5
的输出如下
[root@www ~]# last -n 5 <==仅取出前五行
root pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in
root pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41)
root pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48)
dmtsai pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00)
root tty1 Fri Sep 5 14:09 - 14:10 (00:01)
·如果只是显示最近登录的5个帐号
#last -n 5 | awk '{print $1}'
root
root
root
dmtsai
root
·awk
工作流程是这样的:读入有'\n'
换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域,$0
则表示所有域,$1
表示第一个域,$n
表示第n
个域。默认域分隔符是"空白键" 或[tab]
键,所以$1
表示登录用户,$3
表示登录用户ip
,以此类推。
·如果只是显示/etc/passwd
的账户
#cat /etc/passwd |awk -F ':' '{print $1}'
root
daemon
bin
sys
·这种是awk+action
的示例,每行都会执行action{print $1}
。
-F
指定域分隔符为':'
。
·如果只是显示/etc/passwd
的账户和账户对应的shell
,而账户与shell
之间以tab
键分割
#cat /etc/passwd |awk -F ':' '{print $1"\t"$7}'
root /bin/bash
daemon /bin/sh
bin /bin/sh
sys /bin/sh
·如果只是显示/etc/passwd
的账户和账户对应的shell
,而账户与shell
之间以逗号分割,而且在所有行添加列名name
,shell
,在最后一行添加"blue,/bin/nosh"
。
cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/bin/sh
bin,/bin/sh
sys,/bin/sh
....
blue,/bin/nosh
·awk
工作流程是这样的:先执行BEGING
,然后读取文件,读入有/n
换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域,$0
则表示所有域,$1
表示第一个域,$n
表示第n
个域,随后开始执行模式所对应的动作action
。接着开始读入第二条记录······直到所有的记录都读完,最后执行END
操作。
·搜索/etc/passwd
有root
关键字的所有行
#awk -F: '/root/' /etc/passwd
root:x:0:0:root:/root:/bin/bash
·这种是pattern
的使用示例,匹配了pattern
(这里是root
)的行才会执行action
(没有指定action
,默认输出每行的内容)。
·搜索支持正则,例如找root
开头的: awk -F: '/^root/' /etc/passwd
·搜索/etc/passwd
有root
关键字的所有行,并显示对应的shell
# awk -F: '/root/{print $7}' /etc/passwd
/bin/bash
这里指定了action{print $7}
参考文献:
http://man.lupaworld.com/content/manage/ringkee/awk.htm
http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858470.html
http://www.codeweblog.com/awk命令-awk编程语言详细介绍和实例/