一、awk简介
awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。
数据可以来自标准输入、一个或多个文件，或其它命令的输出。
支持用户自定义函数和动态正则表达式等先进功能，是linux/unix
下的一个强大编程工具。
在命令行中使用，但更多是作为脚本来使用。
awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。
awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。
gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。
二、awk的两种形式语法格式
awk [options] 'commands' filenames
awk [options] -f awk-script-file filenames
options：
-F 对于每次处理的内容，可以指定一个子定义的分隔符，默认的分隔符是空白字符（空格或 tab 键 ）
command:
BGIN{} {} END{}
处理所有内容之前的动作 处理内容中的动作 处理所有内容之后的动作
示例
awk 'BENIN{print "----开始处理----" } {print "ok"}END{print "----都处理完毕----"}' /etc/hosts
----开始处理了---
ok
ok
ok
----都处理完毕----
BEGIN{}通常用于定义一些变量，例如BEGIN{FS=":";ofs="---"}
三、awk工作原理
awk -F: '{print $1,$3}' /etc/passwd
(1)awk,会处理文件的每一个行，每次处理时，使用一行作为输入，并将这一行赋给内部变量$0,每一行也可称为一个记录，以换行符结束
(2)然后，行被：(默认位空格或制表符)分解成字段(或称为域)，每个字段存储在已编号的变量中，从$1开始，最多达100个字段
(3)awk如何知道用空白字符来分割字段的呢？因为有一个内部变量FS来确定字段分隔符。初始时，FS赋为空白字符
(4)awk打印字段时，将以内置的方法使用print函数打印，awk在打印出的字段间加上空格。这个空格是内部的一个变量OFS输出字段的分隔符，逗号,会和OFS进行映射，通过OFS可以控制这个分隔符的值。
(5)awk输出之后，将从文件中获取另一行，并将其存储在$0,覆盖原来的内容，然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕
四、记录与字段相关内部变量：
man awk
$0 ： awk变量 $0 保存当前正在处理的行内容
NR ： 当前正在处理的行是 awk 总共处理的行号。
FNR： 当前正在处理的行在其文件中的行号。
NF ：每行被处理时的总字段数
FS ： 输入行时的字段分隔符，默认空格
awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd
OFS： 输出字段分隔符,默认是一个 空格
awk 'BEGIN{FS=":"; OFS="+++"} /^root/{print $1,$2,$3,$4}' /etc/passwd
ORS 输出记录分隔符, 默认是换行符.
示例
将文件每一行合并为一行
ORS默认输出一条记录应该回车，但是这里是加了一个空格
awk 'BEGIN{ORS=" "} {print $0}' /etc/passwd
五、格式化输出：
printf 函数
awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}' /etc/passwd
awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
%s字符类型%d数值类型%f浮点类型%-15s占15字符 - 表示左对齐，默认是右对齐printf默认不会在行尾自动换行，加\n
六、awk模式和动作
任何awk 语句都由 模式 和 动作 组成。
模式部分 决定动作语句何时触发及触发事件。
如果省略模式部分，动作将时刻保持执行状态。
模式可以是任何条件语句或复合语句或正则表达式。
模式可以是
正则表达式:
- 匹配记录(整行的匹配):
awk '/^root/' /etc/passwd
awk '$0 ~ /^root/' /etc/passwd
awk '!/root/' passwd
awk '$0 !~ /^root/' /etc/passwd
- 匹配字段：可以使用的匹配操作符（
~和!~）
awk -F: '$1 ~ /^alice/' /etc/passwd
awk -F: '$NF !~ /bash$/' /etc/passwd
- 比较表达式：
比较表达式采用对文本进行比较，只有当条件为真，才执行指定的动作。
比较表达式使用关系运算符，用于比较数字与字符串。
关系运算符有
<小于 例如x<y
>大于x>y
<=小于或等于x<=y
==等于x==y
!=不等于x!=y
>=大于等于x>=y
示例
awk -F: '$3 == 0' /etc/passwd
awk -F: '$3 < 10' /etc/passwd
awk -F: '$NF == "/bin/bash"' /etc/passwd
awk -F: '$1 == "root"' /etc/passwd
df -P | grep '/' |awk '$4 > 25000'
- 条件表达式：
awk -F: '$3>300 {print $0}' /etc/passwd
awk -F: '{ if($3>300) print $0 }' /etc/passwd
awk -F: '{ if($3>300) {print $0} }' /etc/passwd
awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd
- 算术运算：
+,-,*,/,%(模: 取余),^(幂：2^3)
可以在模式中执行计算，awk都将按浮点数方式执行算术运算
awk -F: '$3 * 10 > 500' /etc/passwd
awk -F: '{ if($3*10>500){print $0} }' /etc/passwd
- 逻辑操作符和复合模式
&&逻辑与, 相当于 并且
||逻辑或，相当于 或者
!逻辑非 , 取反
awk -F: '$1~/root/ && $3<=15' /etc/passwd
awk -F: '$1~/root/ || $3<=15' /etc/passwd
awk -F: '!($1~/root/ || $3<=15)' /etc/passwd
- 范围模式，符号是逗号
,
使用语法是：起始表达式，终止表达式
awk -F: '/^bin/,/adm/ {print $0 }' /etc/passwd
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
awk正则示例：
awk -F: '/^(bin|root)/' /etc/passwd
root:x:0:0:root:/root:/bin/zsh
bin:x:1:1:bin:/bin:/sbin/nologin
指定多个分隔符
echo "a b|c d| ||||e | |" |awk -F'[ |]' '{print $10}'
e
echo "a b|c d| ||||e | |" |awk -F'[ |]+' '{print $5}'
e
AWK脚本编程
条件判断
if语句
格式
{ if (表达式) {语句; 语句; ...}}
awk -F: '{if($3==0){print $1} else {print $7}} ' /etc/passwd
awk -F: '{if($3==0) {count++} else{i++}}' /etc/passwd
if...else语句
格式
{if(表达式)｛语句;语句;...｝else{语句;语句;...}}
awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
awk -F: '{if($3==0) {count++} else{i++} }' /etc/passwd
awk -F: '{ if($3==0){count++} else{i++} } END{print "管理员个数: "count ; print "系统用户数: "i}' /etc/passwd
if...else if...else语句
格式
{if(表达式1) {语句;语句；...} else if (表达式2) {语句;语句；...} else if(表达式3){语句;语句；...} else {语句;语句；...} }
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print i; print k; print j}' /etc/passwd
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print "管理员个数: "i; print "普通用个数: "k; print "系统用户: "j}' /etc/passwd
循环
while
语法格式 awk '{ while(循环的条件){循环体}}'
awk 'BEGIN{ i=1; while(i<=10) {print i; i++} }'
awk -F: '/^root/{i=1; while(i<=7){print $i; i++}}' passwd
awk '{i=1; while(i<=NF){print $i; i++}}' /etc/hosts
awk -F: '{i=1; while(i<=10) {print $0; i++}}' /etc/passwd //将每行打印10次
for
awk 'BEGIN{for(i=1;i<=5;i++){print i} }' //C风格for
1
2
3
4
5
awk -F: '{ for(i=1;i<=10;i++) {print $0} }' /etc/passwd //将每行打印10次
awk -F: '{ for(i=1;i<=NF;i++) {print $i} }' passwd //分别打印每行的每列
数组
awk -F: '{username[++i]=$1} END{print username[1]}' /etc/passwd
输出: root
awk -F: '{username[i++]=$1} END{print username[1]}' /etc/passwd
输出: bin
awk -F: '{username[i++]=$1} END{print username[0]}' /etc/passwd
输出: root
数组遍历：
- 按索引遍历
- 按元数个数遍历
- 按元数个数遍历
awk -F: '{username[x++]=$1} END{for(i=0;i<x;i++) print i,username[i]}' /etc/passwd
awk -F: '{username[++x]=$1} END{for(i=1;i<=x;i++) print i,username[i]}' /etc/passwd
- 按索引遍历
awk -F: '{username[x++]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd
awk -F: '{username[++x]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd
注：变量i是索引
