note_17.3_awk

GNU awk:

文本处理三工具:grep, sed, awk

  • grep, egrep, fgrep:文本过滤工具;pattern

  • sed: 行编辑器
    模式空间、保持空间

  • awk:报告生成器,格式化文本输出;

    AWK: Aho, Weinberger, Kernighan --> New AWK, NAWK
    GNU awk, gawk


gawk

pattern scanning and processing language

基本用法:gawk [options] 'program' FILE ...
program: PATTERN{ACTION STATEMENTS}
语句之间用分号分隔

选项:
  -F:指明输入时用到的字段分隔符
  -v var=value: 自定义变量

  1. print
    print item1, item2, ...

    要点:
    (1) 逗号分隔符;
    (2) 输出的各item可以字符串,也可以是数值;当前记录的字段、变量或awk的表达式;
    (3) 如省略item,相当于print $0;

  2. 变量

    • 内建变量
      ├── FS:input field seperator,默认为空白字符;
      ├── OFS:output field seperator,默认为空白字符;
      ├── RS:input record seperator,输入时的换行符;
      ├── ORS:output record seperator,输出时的换行符;

      ├── NF:number of field,字段数量
          {print NF}, {print $NF}
      ├── NR:number of record, 行数;
      ├── FNR:各文件分别计数;行数;

      ├── FILENAME:当前文件名;

      ├── ARGC:命令行参数的个数;
      └── ARGV:数组,保存的是命令行所给定的各参数;

    • 自定义变量

      • -v var=value
        变量名区分字符大小写;

      • 在program中直接定义

  3. printf命令
    格式化输出:printf FORMAT, item1, item2, ...

    (1) FORMAT必须给出;
    (2) 不会自动换行,需要显式给出换行控制符,\n
    (3) FORMAT中需要分别为后面的每个item指定一个格式化符号;

    格式符:
    ├── %c: 显示字符的ASCII码;
    ├── %d, %i: 显示十进制整数;
    ├── %e, %E: 科学计数法数值显示;
    ├── %f:显示为浮点数;
    ├── %g, %G:以科学计数法或浮点形式显示数值;
    ├── %s:显示字符串;
    ├── %u:无符号整数;
    └── %%: 显示%自身;

    修饰符:
    ├── #[.#]:第一个数字控制显示的宽度;第二个#表示小数点后的精度;
        %3.1f
    ├── -: 左对齐
    └── +:显示数值的符号

  4. 操作符
    算术操作符:
    x+y, x-y, x*y, x/y, x^y, x%y
    -x
    +x: 转换为数值;

    字符串操作符:没有符号的操作符,字符串连接

    赋值操作符:
    =, +=, -=, *=, /=, %=, ^=
    ++, --

    比较操作符:
    >, >=, <, <=, !=, ==

    模式匹配符:
    ~:是否匹配
    !~:是否不匹配

    逻辑操作符:
    &&
    ||
    !

    函数调用:
    function_name(argu1, argu2, ...)

    条件表达式:
    selector?if-true-expression:if-false-expression

    awk -F: '{$3>=1000?usertype="Common User":usertype="Sysadmin or SysUser";printf "%15s:%-s\n",$1,usertype}' /etc/passwd

  5. PATTERN
    (1) empty:空模式,匹配每一行;
    (2) /regular expression/:仅处理能够被此处的模式匹配到的行;
    (3) relational expression: 关系表达式;结果有“真”有“假”;结果为“真”才会被处理;
    真:结果为非0值,非空字符串;
    (4) line ranges:行范围,
    startline,endline:/pat1/,/pat2/

注意: 不支持直接给出数字的格式
~]# awk -F: '(NR>=2&&NR<=10){print $1}' /etc/passwd

(5) BEGIN/END模式
BEGIN{}: 仅在开始处理文件中的文本之前执行一次;
END{}:仅在文本处理完成之后执行一次;

  1. 常用的action
    (1) Expressions
    (2) Control statements:if, while等;
    (3) Compound statements:组合语句;
    (4) input statements
    (5) output statements

  2. 控制语句
    ├── if(condition) {statments}
    ├── if(condition) {statments} else {statements}
    ├── while(conditon) {statments}
    ├── do {statements} while(condition)
    ├── for(expr1;expr2;expr3) {statements}
    ├── break
    ├── continue
    ├── delete array[index]
    ├── delete array
    ├── exit
    └── { statements }

    • if-else
      语法:if(condition) {statement} [else {statement}]

      awk -F: '{if($3>=1000) {printf "Common user: %s\n",$1} else {printf "root or Sysuser: %s\n",$1}}' /etc/passwd
      awk -F: '{if($NF=="/bin/bash") print $1}' /etc/passwd
      awk '{if(NF>5) print $0}' /etc/fstab
      df -h | awk -F[%] '/^\/dev/{print $1}' | awk '{if($NF>=20) print $1}'
      
    • while循环
      语法:while(condition) statement

      awk '/^[[:space:]]*linux16/{i=1;while(i<=NF) {print $i,length($i); i++}}' /etc/grub2.cfg
      awk '/^[[:space:]]*linux16/{i=1;while(i<=NF) {if(length($i)>=7) {print $i,length($i)}; i++}}' /etc/grub2.cfg
      
    • do-while循环
      语法:do statement while(condition)
      意义:至少执行一次循环体

    • for循环
      语法:for(expr1;expr2;expr3) statement

      awk '/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) {print $i,length($i)}}' /etc/grub2.cfg
      

      特殊用法:
      能够遍历数组中的元素;
      语法:for(var in array) {for-body}

    • switch语句
      语法:switch(expression) {case VALUE1 or /REGEXP/: statement; case VALUE2 or /REGEXP2/: statement; ...; default: statement}

    • break和continue
      break [n]
      continue

    • next
      提前结束对本行的处理而直接进入下一行;

      awk -F: '{if($3%2!=0) next; print $1,$3}' /etc/passwd
      
  3. array
    关联数组:array[index-expression]
    index-expression:
    (1) 可使用任意字符串;字符串要使用双引号;
    (2) 如果某数组元素事先不存在,在引用时,awk会自动创建此元素,并将其值初始化为“空串”;

    若要判断数组中是否存在某元素,要使用"index in array"格式进行;

    weekdays["mon"]="Monday"

    awk 'BEGIN{weekdays["mon"]="Monday";weekdays["tue"]="Tuesday";for(i in weekdays) {print weekdays[i]}}'

    注意:var会遍历array的每个索引;
    state["LISTEN"]++
    state["ESTABLISHED"]++

    netstat -tan | awk '/^tcp\>/{state[$NF]++}END{for(i in state) { print i,state[i]}}'

    awk '{ip[$1]++}END{for(i in ip) {print i,ip[i]}}' /var/log/httpd/access_log

    练习1:统计/etc/fstab文件中每个文件系统类型出现的次数;

    [root@localhost ~]# awk '/^[^#]/{fs[$3]++}END{for(i in fs){print i,fs[i]}}' /etc/fstab 
    swap 1
    xfs 3
    

    练习2:统计指定文件中每个单词出现的次数;

    [root@localhost ~]# awk '{for(i=1;i<NF;i++){$i~/^[a-zA-Z][a-zA-Z]*[a-zA-Z]$/?words[$i]++:Continue}}END{for(i in words)print i,words[i]}' /etc/fstab 
    swap 2
    on 1
    Tue 1
    more 1
    pages 1
    Jan 1
    See 1
    for 1
    anaconda 1
    under 1
    Created 1
    Accessible 1
    defaults 4
    xfs 3
    man 1
    are 1
    by 2
    maintained 1
    
  4. 函数

    • 内置函数
      • 数值处理:
        rand():返回0和1之间一个随机数;

      • 字符串处理:
        length([s]):返回指定字符串的长度;
        sub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其第一次出现替换为s所表示的内容;
        gsub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其所有出现均替换为s所表示的内容;
        split(s,a[,r]):以r为分隔符切割字符s,并将切割后的结果保存至a所表示的数组中;

        ~]# netstat -tan | awk '/^tcp\>/{split($5,ip,":");count[ip[1]]++}END{for (i in count) {print i,count[i]}}'
        
    • 自定义函数
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,793评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,567评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,342评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,825评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,814评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,680评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,033评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,687评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,175评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,668评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,775评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,419评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,020评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,206评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,092评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,510评论 2 343

推荐阅读更多精彩内容

  • awk:报告生成器,格式化文本输出 内容: awk介绍 awk基本用法 awk变量 awk格式化 awk操作符 a...
    BossHuang阅读 1,451评论 0 9
  • 本章主要学习内容awk介绍 awk基本用法 awk变量 awk格式化 awk操作符 awk条件判断 a...
    楠人帮阅读 1,254评论 0 8
  • awk介绍awk变量printf命令:实现格式化输出操作符awk patternawk actionawk数组aw...
    哈喽别样阅读 1,549评论 0 4
  • 报告生成器,格式化文本输出,常用选项: -F:指明输入时用到的字段分隔符 -v var=value:自定义变量 介...
    毛利卷卷发阅读 516评论 0 1
  • awk: grep,sed,awk grep:文本过滤 sed:文本编辑 awk:文本格式化工具; 1 什么是aw...
    木林森阅读 1,764评论 0 16