带你了解千面得awk命令

系统 Linux
awk 命令不仅提供了简单的输入字符串筛选功能,还包含提取数据列、打印简单文本、筛选内容——甚至做一些数学计算。

[[285044]]

awk 命令不仅提供了简单的输入字符串筛选功能,还包含提取数据列、打印简单文本、筛选内容——甚至做一些数学计算。

如果你仅使用 awk 选取一行中的特定文本,那么你可能错过了它的很多功能。在这篇文章中,我们会来看看使用 awk 可以帮你做一些其他的什么事情,并提供一些例子。

提取数据列

awk 所提供的最简单与最常用的功能便是从文件或管道传输的数据中选取特定的内容。默认使用空格当做分隔符,这非常简单。

  1. $ echo one two three four five | awk ‘{print $4}’
  2. four
  3. $ who | awk ‘{print $1}’
  4. jdoe
  5. fhenry

空格指的是一系列的 spacetab 字符。在下面所展示的命令里,awk 从提供的数据中筛选第一和第四项。

awk 命令也可以通过在其后增加文件名参数的方式从文本文件中获取数据。

  1. $ awk '{print $1,$5,$NF}' HelenKellerQuote
  2. The beautiful heart.

(LCTT 译注:“The best and most beautiful things in the world can not be seen or even touched , they must be felt with heart.” ——海伦凯勒)

在这个例子中,awk 挑选了一行中的第一个、第五个和最后一个字段。

命令中的 $NF 指定选取每行的最后一个字段。这是因为 NF 代表一行中的字段数量Number of Field,也就是 23,而 $NF 就代表着那个字段的值,也就是heart。最后的句号也包含进去了,因为它是最后一个字符串的一部分。

字段能以任何有用的形式打印。在这个例子中,我们将字段以日期的格式进行打印输出。

  1. $ date | awk '{print $4,$3,$2}'
  2. 2019 Nov 22

如果你省略了 awk 命令中字段指示符之间的逗号,输出将会挤成一个字符串。

  1. $ date | awk '{print $4 $3 $2}'
  2. 2019Nov21

如果你将通常使用的逗号替换为连字符,awk 就会尝试将两个字段的值相减——或许这并不是你想要的。它不会将连字符插入到输出结果中。相反地,它对输出做了一些数学计算。

  1. $ date | awk '{print $4-$3-$2}'
  2. 1997

在这个例子中,它将年 “2019” 和日期 “22” 相减,并忽略了中间的 “Nov”。

如果你想要空格之外的字符作为输出分隔符,你可以通过 OFS输出分隔符output field separator)指定分隔符,就像这样:

  1. $ date | awk '{OFS="-"; print $4,$3,$2}'
  2. 2019-Nov-22

打印简单文本

你也可以使用 awk 简单地显示一些文本。当然了,比起 awk 你可能更想使用 echo 命令。但换句话说,作为 awk 脚本的一部分,打印某些相关性文本将会非常实用。这里有一个没什么用的例子:

  1. $ awk 'BEGIN {print "Hello, World" }'
  2. Hello, World

下面的例子更加合理,添加一行文本标签来更好的辨识数据。

  1. $ who | awk 'BEGIN {print "Current logins:"} {print $1}'
  2. Current logins:
  3. shs
  4. nemo

指定字段分隔符

不是所有的输入都以空格作为分隔符的。如果你的文本通过其它的字符作为分隔符(例如:逗号、冒号、分号),你可以通过 -F 选项(输入分隔符)告诉 awk

  1. $ cat testfile
  2. a:b:c,d:e
  3. $ awk -F : '{print $2,$3}' testfile
  4. b c,d

下面是一个更加有用的例子——从冒号分隔的 /etc/passwd 文件中获取数据:

  1. $ awk -F: '{print $1}' /etc/passwd | head -11
  2. root
  3. daemon
  4. bin
  5. sys
  6. sync
  7. games
  8. man
  9. lp
  10. mail
  11. news
  12. uucp

筛选内容

你也可以使用 awk 命令评估字段。例如你仅仅想列出 /etc/passwd 中的用户账号,就可以对第三个字段做一些筛选。下面的例子中我们只关注大于等于 1000 的 UID:

  1. $ awk -F":" ' $3 >= 1000 ' /etc/passwd
  2. nobody:x:65534:65534:nobody:/nonexistent:/usr/sbin/nologin
  3. shs:x:1000:1000:Sandra Henry-Stocker,,,:/home/shs:/bin/bash
  4. nemo:x:1001:1001:Nemo,,,:/home/nemo:/usr/bin/zsh
  5. dory:x:1002:1002:Dory,,,:/home/dory:/bin/bash
  6. ...

如果你想为输出增加标题,可以添加 BEGIN 从句:

  1. $ awk -F":" 'BEGIN {print "user accounts:"} $3 >= 1000 ' /etc/passwd
  2. user accounts:
  3. nobody:x:65534:65534:nobody:/nonexistent:/usr/sbin/nologin
  4. shs:x:1000:1000:Sandra Henry-Stocker,,,:/home/shs:/bin/bash
  5. nemo:x:1001:1001:Nemo,,,:/home/nemo:/usr/bin/zsh
  6. dory:x:1002:1002:Dory,,,:/home/dory:/bin/bash

如果你想要不止一行的标题,你可以通过 "\n" 分隔输出:

  1. $ awk -F":" 'BEGIN {print "user accounts\n============="} $3 >= 1000 ' /etc/passwd
  2. user accounts
  3. =============
  4. nobody:x:65534:65534:nobody:/nonexistent:/usr/sbin/nologin
  5. shs:x:1000:1000:Sandra Henry-Stocker,,,:/home/shs:/bin/bash
  6. nemo:x:1001:1001:Nemo,,,:/home/nemo:/usr/bin/zsh
  7. dory:x:1002:1002:Dory,,,:/home/dory:/bin/bash

在 awk 中进行数学计算

awk 提供了惊人的数学计算能力,并且可以开平方,算 log,算 tan 等等。

这里有一对例子:

  1. $ awk 'BEGIN {print sqrt(2019)}'
  2. 44.9333
  3. $ awk 'BEGIN {print log(2019)}'
  4. 7.61036

想要详细了解 awk 的数学计算能力,可以看《使用 awk 进行数学计算》这篇文章。

awk 脚本

你也可以使用 awk 写一套单独的脚本。下面的例子模仿了之前写过的一个,不过还计算了系统里账户的数量。

  1. #!/usr/bin/awk -f
  2.  
  3. # 这一行是注释
  4.  
  5. BEGIN {
  6. printf "%s\n","User accounts:"
  7. print "=============="
  8. FS=":"
  9. n=0
  10. }
  11.  
  12. # 现在开始遍历数据
  13. {
  14. if ($3 >= 1000) {
  15. print $1
  16. n ++
  17. }
  18. }
  19.  
  20. END {
  21. print "=============="
  22. print n " accounts"
  23. }

注意 BEGIN 那一节是如何提供标题、指定字段分隔符和初始化计数器的,它仅在脚本初始化时期执行。这个脚本也包含 END 节,它仅在中间所有命令处理完成之后运行,显示了所有中间小节所筛选数据的最终行数(第三个字段大于等于 1000)。

作为一个长存于 Unix 之上的命令,awk 依旧提供着非常有用的服务,这也是我几十年前爱上 Unix 的原因之一。 

责任编辑:庞桂玉 来源: Linux中国
相关推荐

2018-07-05 08:30:54

Python命令行工具shell

2015-04-15 10:53:40

大数据京东千人千面

2018-04-17 09:20:35

Linux命令crypt

2017-03-10 11:35:16

Linuxsort命令

2017-08-24 09:55:57

2010-07-05 16:20:32

NetBEUI协议

2019-09-27 09:40:06

ElvishShellLinux

2022-09-26 11:30:40

MQTT协议客户端协议

2021-05-31 14:22:56

物联网物联网安全

2021-12-10 10:29:07

在线客服系统

2010-09-02 16:59:35

资源预留协议

2019-11-05 10:18:04

RPM包RPMLinux

2017-04-20 17:36:49

云计算

2021-02-03 16:22:43

新基建SAP

2020-12-31 12:16:49

SAP云计算SAP产品

2021-03-17 11:25:06

系统缓存架构

2020-12-11 14:46:08

京麒大会安全

2021-05-18 09:14:22

千面系统互联网

2019-03-26 10:50:22

Python面向对象编程语言

2018-03-12 10:15:10

前端Javascript反调试
点赞
收藏

51CTO技术栈公众号