shell awk对输出流的处理

  • awk介绍

  • awk基本用法

  • awk高级用法

  • awk小技巧



在日常计算机管理中,总会有很多数据输出到屏幕或者文件,这些输出包含了标准输出、标准错误输出。默认情况下,这些信息全部输出到默认输出设备—-屏幕。然而,大量的数据输出中,只有一小部分是我们需要重点关注的,我们需要把我们需要的或者关注的这些信息过滤或者提取以备后续需要时调用。早先的学习中,我们学过使用grep来过滤这些数据,使用cut、tr命令提出某些字段,但是他们都不具备提取并处理数据的能力,都必须先过滤,再提取转存到变量,然后在通过变量提取去处理,比如:

内存使用率的统计步骤

1) 通过free -m提取出内存总量,赋值给变量 memory_totle

2)通过free -m提取出n内存使用量,赋值给变量memory_use

3)通过数学运算计算内存使用率

需要执行多步才能得到内存使用率,那么有没有一个命令能够集过滤、提取、运算为一体呢?当然,就是今天我要给大家介绍的命令:awk

平行命令还有gawk、pgawk、dgawk

一、awk介绍

awk是一种可以处理数据、产生格式化报表的语言,功能十分强大。awk 认为文件中的每一行是一条记录 记录与记录的分隔符为换行符,每一列是一个字段 字段与字段的分隔符默认是一个或多个空格或tab制表符.

awk的工作方式是读取数据,将每一行数据视为一条记录(record)每条记录以字段分隔符分成若干字段,然后输出各个字段的值.

awk语法

awk [options] [BEGIN]{program} [END][file]


  1. 常用命令选项
  2. -F fs 指定描绘一行中数据字段的文件分隔符 默认为空格
  3. -f file 指定读取程序的文件名
  4. -v var=value 定义awk程序中使用的变量和默认值
  5.  
  6. 注意:awk 程序脚本由左大括号和右大括号定义。脚本命令必须放置在两个大括号之间。由于awk命令行假定脚本是单文本字符串,所以必须将脚本包
  7. 括在单引号内。
  8.  
  9. awk程序运行优先级是:
  10. 1)BEGIN: 在开始处理数据流之前执行,可选项
  11. 2)program: 如何处理数据流,必选项
  12. 3)END: 处理完数据流后执行,可选项

二、awk的基本用法—-awk数据提取功能


  1. 学习用例
  2. [root@www ~]# cat test
  3. 1 the quick brown fox jumps over the lazy cat . dog
  4. 2 the quick brown fox jumps over the lazy cat . dog
  5. 3 the quick brown fox jumps over the lazy cat . dog
  6. 4 the quick brown fox jumps over the lazy cat . dog
  7. 5 the quick brown fox jumps over the lazy cat . dog

2.1)awk对字段(列)的提取

字段提取:提取一个文本中的一列数据并打印输出

字段相关内置变量

$0 表示整行文本

$1 表示文本行中的第一个数据字段

$2 表示文本行中的第二个数据字段

$N 表示文本行中的第N个数据字段

$NF 表示文本行中的最后一个数据字段


  1. 读入test每行数据并把每行数据打印出来
  2. [root@www ~]# awk '{print $0}' test
  3. 1 the quick brown fox jumps over the lazy cat . dog
  4. 2 the quick brown fox jumps over the lazy cat . dog
  5. 3 the quick brown fox jumps over the lazy cat . dog
  6. 4 the quick brown fox jumps over the lazy cat . dog
  7. 5 the quick brown fox jumps over the lazy cat . dog
  8.  
  9. 打印test第六个字段
  10. [root@www ~]# awk '{print $6}' test
  11. jumps
  12. jumps
  13. jumps
  14. jumps
  15. jumps
  16.  
  17.  
  18. 打印test最后一个字段
  19. [root@www ~]# awk '{print $NF}' test
  20. dog
  21. dog
  22. dog
  23. dog
  24. dog

2.2)命令选项详解

-F: 指定字段与字段的分隔符

当输出的数据流字段格式不是awk默认的字段格式时,我们可以使用-F命令选项来重新定义数据流字段分隔符。比如:

处理的文件是/etc/passwd,希望打印第一列、第三列、最后一列


  1. [root@www ~]# awk -F ':' '{print $1,$3,$NF}' /etc/passwd
  2. root 0 /bin/bash
  3. bin 1 /sbin/nologin
  4. daemon 2 /sbin/nologin
  5. adm 3 /sbin/nologin
  6. lp 4 /sbin/nologin
  7. sync 5 /bin/sync
  8. shutdown 6 /sbin/shutdown
  9. halt 7 /sbin/halt
  10. mail 8 /sbin/nologin
  11. operator 11 /sbin/nologin
  12. games 12 /sbin/nologin
  13. ftp 14 /sbin/nologin
  14. nobody 99 /sbin/nologin
  15. systemd-network 192 /sbin/nologin
  16. dbus 81 /sbin/nologin
  17. polkitd 999 /sbin/nologin
  18. postfix 89 /sbin/nologin
  19. chrony 998 /sbin/nologin
  20. sshd 74 /sbin/nologin
  21. ntp 38 /sbin/nologin
  22. tcpdump 72 /sbin/nologin
  23. nscd 28 /sbin/nologin
  24. mysql 997 /sbin/nologin
  25. www 996 /sbin/nologin
  26. apache 48 /sbin/nologin
  27. tss 59 /sbin/nologin
  28. zabbix 995 /sbin/nologin
  29. saslauth 994 /sbin/nologin
  30. grafana 993 /sbin/nologin
  31.  
  32. 可以看的出,awk输出字段默认的分隔符也是空格

-f file: 如果awk命令是日常重复工作,而又没有太多变化,可以将程序写入文件,每次使用-f调用程序文件就好,方便,高效。


  1. [root@www ~]# cat abc
  2. {print $1,$3,$NF}
  3.  
  4. [root@www ~]# awk -f abc test
  5. 1 quick dog
  6. 2 quick dog
  7. 3 quick dog
  8. 4 quick dog
  9. 5 quick dog

-v 定义变量,既然作者写awk的时候就是按着语言去写的,那么语言中最重要的要素—-变量肯定不能缺席,所以可以使用-v命令选项定义变量


  1. [root@www ~]# awk -v name='baism' 'BEGIN{print name}'
  2. baism
  3.  
  4. 定义了一个变量 name=baism,然后调用变量读出数据。

2.3)awk对记录(行)的提取

记录提取:提取一个文本中的一行并打印输出

记录的提取方法有两种:a、通过行号 b、通过正则匹配

记录相关内置变量

NR: 指定行号


  1. 提取test第三行数据
  2.  
  3. 指定行号为3
  4. [root@www ~]# awk 'NR==3{print $0}' test
  5. 3 the quick brown fox jumps over the lazy cat . dog
  6.  
  7. 指定行的第一个字段精确匹配字符串为3
  8. [root@www ~]# awk '$1=="3"{print $0}' test
  9. 3 the quick brown fox jumps over the lazy cat . dog

2.4)awk对字符串提取

记录和字段的汇合点就是字符串


  1. 打印test第三行的第六个字段
  2. [root@www ~]# awk 'NR==3{print $6}' test
  3. jumps

2.5)awk程序的优先级

关于awk程序的执行优先级,BEGIN是优先级最高的代码块,是在执行PROGRAM之前执行的,不需要提供数据源,因为不涉及到任何数据的处理,也不依赖与PROGRAM代码块;PROGRAM是对数据流干什么,是必选代码块,也是默认代码块。所以在执行时必须提供数据源;END是处理完数据流后的操作,如果需要执行END代码块,就必须需要PROGRAM的支持,单个无法执行。


  1. 优先级展示
  2. [root@www ~]# awk 'BEGIN{print "hello ayitula"}{print $0}END{print "bye ayitula"}' test
  3. hello ayitula
  4. 1 the quick brown fox jumps over the lazy cat . dog
  5. 2 the quick brown fox jumps over the lazy cat . dog
  6. 3 the quick brown fox jumps over the lazy cat . dog
  7. 4 the quick brown fox jumps over the lazy cat . dog
  8. 5 the quick brown fox jumps over the lazy cat . dog
  9. bye ayitula
  10.  
  11. 不需要数据源,可以直接执行
  12. [root@www ~]# awk 'BEGIN{print "hello world"}'
  13. hello world
  14.  
  15. 没有提供数据流,所以无法执行成功
  16. [root@www ~]# awk '{print "hello world"}'
  17. [root@www ~]# awk 'END{print "hello world"}'

三、awk高级用法

awk是一门语言,那么就会符合语言的特性,除了可以定义变量外,还可以定义数组,还可以进行运算,流程控制,我们接下来看看吧。

3.1)awk定义数组

数组定义方式: 数组名[索引]=值


  1. 定义数组array,有两个元素,分别是100,200,打印数组元素。
  2. [root@www ~]# awk 'BEGIN{array[0]=100;array[1]=200;print array[0],array[1]}'
  3. 100 200

3.2)awk运算


  1. 赋值运算 =

  2. 比较运算 > >= == < <= !=

  3. 数学运算 + - / % * ++ —

  4. 逻辑运算 && ||

  5. 匹配运算 ~ !~


  6.  

1.赋值运算:主要是对变量或者数组赋值,如:

变量赋值 name=’baism’ school=’ayitula’

数组赋值 array[0]=100


  1. [root@www ~]# awk -v name='baism' 'BEGIN{print name}'
  2. baism
  3.  
  4. [root@www ~]# awk 'BEGIN{school="ayitula";print school}'
  5. ayitula
  6.  
  7. [root@www ~]# awk 'BEGIN{array[0]=100;print array[0]}'
  8. 100

2.比较运算,如果比较的是字符串则按ascii编码顺序表比较。如果结果返回为真则用1表示,如果返回为假则用0表示


  1. [root@www ~]# awk 'BEGIN{print "a" >= "b" }'
  2. 0
  3. [root@www ~]# awk 'BEGIN{print "a" <= "b" }'
  4. 1
  5.  
  6. [root@www ~]# awk '$1>4{print $0}' test
  7. 5 the quick brown fox jumps over the lazy cat . dog
  8. [root@www ~]# awk 'BEGIN{print 100 >= 1 }'
  9. 1
  10. [root@www ~]# awk 'BEGIN{print 100 == 1 }'
  11. 0
  12. [root@www ~]# awk 'BEGIN{print 100 <= 1 }'
  13. 0
  14. [root@www ~]# awk 'BEGIN{print 100 < 1 }'
  15. 0
  16. [root@www ~]# awk 'BEGIN{print 100 != 1 }'
  17. 1

3.数学运算


  1. [root@www ~]# awk 'BEGIN{print 100+3 }'
  2. 103
  3. [root@www ~]# awk 'BEGIN{print 100-3 }'
  4. 97
  5. [root@www ~]# awk 'BEGIN{print 100*3 }'
  6. 300
  7. [root@www ~]# awk 'BEGIN{print 100/3 }'
  8. 33.3333
  9. [root@www ~]# awk 'BEGIN{print 100**3 }'
  10. 1000000
  11. [root@www ~]# awk 'BEGIN{print 100%3 }'
  12. 1
  13. [root@www ~]# awk -v 'count=0' 'BEGIN{count++;print count}'
  14. 1
  15. [root@www ~]# awk -v 'count=0' 'BEGIN{count--;print count}'
  16. -1

4.逻辑运算


  1. 与运算:真真为真,真假为假,假假为假
  2. [root@www ~]# awk 'BEGIN{print 100>=2 && 100>=3 }'
  3. 1
  4. [root@www ~]# awk 'BEGIN{print 100>=2 && 1>=100 }'
  5. 0
  6.  
  7. 或运算:真真为真,真假为真,假假为假
  8. [root@www ~]# awk 'BEGIN{print 100>=2 || 1>=100 }'
  9. 1
  10. [root@www ~]# awk 'BEGIN{print 100>=200 || 1>=100 }'
  11. 0

5.匹配运算


  1. [root@www ~]# awk -F ':' '$1 ~ "^ro" {print $0}' /etc/passwd
  2. root:x:0:0:root:/root:/bin/bash
  3.  
  4. [root@www ~]# awk -F ':' '$1 !~ "^ro" {print $0}' /etc/passwd
  5. bin:x:1:1:bin:/bin:/sbin/nologin
  6. daemon:x:2:2:daemon:/sbin:/sbin/nologin
  7. adm:x:3:4:adm:/var/adm:/sbin/nologin
  8. lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
  9. sync:x:5:0:sync:/sbin:/bin/sync
  10. shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
  11. halt:x:7:0:halt:/sbin:/sbin/halt
  12. mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
  13. operator:x:11:0:operator:/root:/sbin/nologin
  14. games:x:12:100:games:/usr/games:/sbin/nologin
  15. ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
  16. nobody:x:99:99:Nobody:/:/sbin/nologin
  17. systemd-network:x:192:192:systemd Network Management:/:/sbin/nologin
  18. dbus:x:81:81:System message bus:/:/sbin/nologin
  19. polkitd:x:999:997:User for polkitd:/:/sbin/nologin
  20. postfix:x:89:89::/var/spool/postfix:/sbin/nologin
  21. chrony:x:998:996::/var/lib/chrony:/sbin/nologin
  22. sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
  23. ntp:x:38:38::/etc/ntp:/sbin/nologin
  24. tcpdump:x:72:72::/:/sbin/nologin
  25. nscd:x:28:28:NSCD Daemon:/:/sbin/nologin
  26. mysql:x:997:995::/home/mysql:/sbin/nologin
  27. www:x:996:994::/home/www:/sbin/nologin
  28. apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin
  29. tss:x:59:59:Account used by the trousers package to sandbox the tcsd daemon:/dev/null:/sbin/nologin
  30. zabbix:x:995:993:Zabbix Monitoring System:/var/lib/zabbix:/sbin/nologin
  31. saslauth:x:994:76:Saslauthd user:/run/saslauthd:/sbin/nologin
  32. grafana:x:993:992:grafana user:/usr/share/grafana:/sbin/nologin

3.3)awk 环境变量

变量 描述
FIELDWIDTHS 以空格分隔的数字列表,用空格定义每个数据字段的精确宽度
FS 输入字段分隔符号
OFS 输出字段分隔符号
RS 输入记录分隔符
ORS 输出记录分隔符号

  1. FIELDWIDTHS:重定义列宽并打印,注意不可以使用$0打印所有,因为$0是打印本行全内容,不会打印你定义的字段
  2. [root@www ~]# awk 'BEGIN{FIELDWIDTHS="5 2 8"}NR==1{print $1,$2,$3}' /etc/passwd
  3. root: x: 0:0:root
  4.  
  5. FS:指定数据源中字段分隔符,类似命令选项-F
  6. [root@www ~]# awk 'BEGIN{FS=":"}NR==1{print $1,$3,$NF}' /etc/passwd
  7. root 0 /bin/bash
  8.  
  9. OFS:指定输出到屏幕后字段的分隔符
  10. [root@www ~]# awk 'BEGIN{FS=":";OFS="-"}NR==1{print $1,$3,$NF}' /etc/passwd
  11. root-0-/bin/bash
  12.  
  13. RS:指定记录的分隔符
  14. [root@www ~]# awk 'BEGIN{RS=""}{print $1,$13,$25,$37,$49}' test
  15. 1 2 3 4 5
  16.  
  17. 将记录的分隔符修改为空行后,所有的行会变成一行,所以所有字段就在一行了。
  18.  
  19. ORS:输出到屏幕后记录的分隔符,默认为回车
  20. [root@www ~]# awk 'BEGIN{RS="";ORS="*"}{print $1,$13,$25,$37,$49}' test
  21. 1 2 3 4 5*[root@www ~]#
  22.  
  23. 可以看出,提示符和输出在一行了,因为默认回车换成了*

3.4)流程控制


  1. if判断语句

  2. for循环语句

  3. while循环语句

  4. do…while语句

  5. 循环控制


  6.  

if判断语句


  1. 学习用例
  2. [root@www ~]# cat num
  3. 1
  4. 2
  5. 3
  6. 4
  7. 5
  8. 6
  9. 7
  10. 8
  11. 9
  12.  
  13. 单if语句
  14. 打印$1大于5的行
  15. [root@www ~]# awk '{if($1>5)print $0}' num
  16. 6
  17. 7
  18. 8
  19. 9
  20.  
  21. if...else语句
  22. 假如$1大于5则除以2输出,否则乘以2输出
  23. [root@www ~]# awk '{if($1>5)print $1/2;else print $1*2}' num
  24. 2
  25. 4
  26. 6
  27. 8
  28. 10
  29. 3
  30. 3.5
  31. 4
  32. 4.5

for循环语句


  1. 学习用例
  2. [root@www ~]# cat num2
  3. 60 50 100
  4. 150 30 10
  5. 70 100 40
  6.  
  7. 将一行中的数据都加起来 $1+$2+$3
  8. [root@www ~]# awk '{sum=0;for (i=1;i<4;i++){sum+=$i}print sum}' num2
  9. 210
  10. 190
  11. 210
  12.  
  13. 如果看的不明白可以看下面格式
  14. [root@www ~]# awk '{
  15. > sum=0
  16. > for (i=1;i<4;i++) {
  17. > sum+=$i
  18. > }
  19. > print sum
  20. > }' num2
  21. 210
  22. 190
  23. 210

while循环语句

先判断后执行


  1. 学习用例
  2. [root@www ~]# cat num2
  3. 60 50 100
  4. 150 30 10
  5. 70 100 40
  6.  
  7. 将文件中的每行的数值累加,和大于或等于150就停止累加
  8. [root@www ~]# awk '{sum=0;i=1;while(sum<150){sum+=$i}print sum}' num2
  9. 180
  10. 150
  11. 210
  12.  
  13. 如果看的不明白可以看下面格式
  14. [root@www ~]# awk '{
  15. sum=0
  16. i=1
  17. while (sum<150)
  18. {
  19. sum+=$i
  20. }
  21. print sum
  22. }' num2
  23. 180
  24. 150
  25. 210

do…while循环语句

先执行后判断


  1. 学习用例
  2. [root@www ~]# cat num2
  3. 60 50 100
  4. 150 30 10
  5. 70 100 40
  6.  
  7. 将文件中的每行的数值累加,和大于或等于150就停止累加
  8. [root@www ~]# awk '{sum=0;i=1;do{sum+=$i}while(sum<150);i++;print sum}' num2
  9. 180
  10. 150
  11. 210
  12.  
  13. 如果看的不明白可以看下面格式
  14. [root@www ~]# awk '{
  15. > sum=0
  16. > i=1
  17. > do {
  18. > sum+=$i
  19. > }while (sum<150)
  20. > i++
  21. > print sum
  22. > }' num2
  23. 180
  24. 150
  25. 210

循环控制语句

break 跳出循环,继续执行后续语句


  1. 学习用例
  2. [root@www ~]# cat num2
  3. 60 50 100
  4. 150 30 10
  5. 70 100 40
  6.  
  7. 累加每行数值,和大于150停止累加
  8. [root@www ~]# awk '{
  9. > sum=0
  10. > i=1
  11. > while (i<4){
  12. > sum+=$i
  13. > if (sum>150){
  14. > break
  15. > }
  16. > i++
  17. > }
  18. > print sum
  19. > }' num2
  20. 210
  21. 180
  22. 170

四、awk小技巧


  1. 学习用例
  2. [root@www ~]# cat test
  3. 1 the quick brown fox jumps over the lazy cat . dog
  4. 2 the quick brown fox jumps over the lazy cat . dog
  5. 3 the quick brown fox jumps over the lazy cat . dog
  6. 4 the quick brown fox jumps over the lazy cat . dog
  7. 5 the quick brown fox jumps over the lazy cat . dog
  8.  
  9. 打印test文本的行数
  10. [root@www ~]# awk 'END{print NR}' test
  11. 5
  12.  
  13. 打印test文本最后一行内容
  14. [root@www ~]# awk 'END{print $0}' test
  15. 5 the quick brown fox jumps over the lazy cat . dog
  16.  
  17. 打印test文本列数
  18. [root@www ~]# awk 'END{print NF}' test
  19. 12


 


  • 作者:合十
  • 发表时间:2021年9月4日 03:50
  • 更新时间:2022年9月30日 19:50
  • 所属分类:Shell脚本编程

Comments

该文章还未收到评论,点击下方评论框开始评论吧~