记录我使用的linux命令-awk

1.awk简介

2.awk命令格式和选项

2.1.awk的语法有两种形式

2.2.命令选项

3.模式和操作

3.1.模式

3.2.操作

4.awk的环境变量

5.awk运算符

6.记录和域

6.1.记录

6.2.域

6.3.域分隔符

7.gawk专用正则表达式元字符

8.POSIX字符集

9.匹配操作符(~)

10.比较表达式

11.范围模板

12.一个验证p as swd文件有效性的例子

13.几个实例

14.aw k编程

14.1.变量

14.2.BE GIN模块

14.3.END模块

14.4.重定向和管道

14.5.条件语句

14.6.循环

14.7.数组

14.8.awk的内建函数

15.Ho w-to

1.awk简介awk是一种编程语言用于在li nux/un ix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能是linux/un ix下的一个强大编程工具。它在命令行中使用但更多是作为脚本来使用。 awk的处理文本和数据的方式是这样的它逐行扫描文件从第一行到最后一行寻找匹配的特定模式的行并在这些行上进行你想要的操作。如果没有指定处理动作则把匹配的行显示到标准输出(屏幕)如果没有指定模式则所有被操作所指定的行都被处理。 aw k分别代表其作者姓氏的第一个字

母。因为它的作者是三个人分别是Alfred Aho、 Brian Kernighan、 PeterWe inberger。 gawk是awk的GNU版本它提供了B ell实验室和GNU的一些扩展。下面介绍的awk是以GUN的ga wk为例的在linux系统中已把awk链接到ga wk所以下面全部以awk进行介绍。

2.awk命令格式和选项

2.1.awk的语法有两种形式awk[options] 'script'var=value file(s)awk[options] -f scriptfile var=value file(s)

2.2.命令选项

-F fs or --field-s eparator fs

指定输入文件折分隔符 fs是一个字符串或者是一个正则表达式如-F:。-vvar=value or --asign var=value

赋值一个用户定义变量。

-f scripfile or--file scriptfile

从脚本文件中读取awk命令。

-mf nnn and-mr nnn

对nnn值设置内在限制 -mf选项限制分配给nnn的最大块数目 -mr选项限制记录的最大数目。这两个功能是B e ll实验室版awk的扩展功能在标准aw k中不适用。

-W compact or--compat, -W traditional or --traditional

在兼容模式下运行aw k。所以g awk的行为和标准的awk完全一样所有的awk扩展都被忽略。

-W copyleft or--copyleft, -W copyright or --copyright

打印简短的版权信息。

-Whelp or--help, -Wusage or--usage

打印全部awk选项和每个选项的简短说明。

-W lint or--lint

打印不能向传统un ix平台移植的结构的警告。

-W lint-old or --lint-o ld

打印关于不能向传统uni x平台移植的结构的警告。

-W posix

打开兼容模式。但有以下限制不识别 \x、 函数关键字、 func、换码序列以及当fs是一个空格时将新行作为一个域分隔符操作符**和**=不能代替^和^=fflush无效。

-W re-interval or --re-inerval

允许间隔正则表达式的使用参考(grep中的P o six字符类)如括号表达式[[:alpha:]]。

-W sourc e pro gram-text or--sourc e pro gram-text

使用program-text作为源代码可与-f命令混用。

-W version or --version

打印bug报告信息的版本。

3.模式和操作awk脚本是由模式和操作组成的p attern{ac t io n}如$awk'/ro ot/' te s t或$awk'$3<100' te st。

两者是可选的如果没有模式则action应用到全部记录如果没有action则输出匹配全部记录。默认情况下每一个输入行都是一条记录但用户可通过RS变量指定不同的分隔符进行分隔。

3.1.模式

模式可以是以下任意一个

/正则表达式/使用通配符的扩展集。

关系表达式可以用下面运算符表中的关系运算符进行操作可以是字符串或数字的比较如$2>%1选择第二个字段比第一个字段长的行。

模式匹配表达式用运算符~(匹配)和~!(不匹配)。

模式模式指定一个行的范围。该语法不能包括B EG IN和EN D模式。

BE GIN让用户指定在第一条输入记录被处理之前所发生的动作通常可在这里设置全局变量。

END让用户在最后一条输入记录被读取之后发生的动作。

3.2.操作

操作由一人或多个命令、函数、表达式组成之间由换行符或分号隔开并位于大括号内。主要有四部份

变量或数组赋值

输出命令

内置函数

控制流命令

4.awk的环境变量

Table 1.awk的环境变量

变量描述

$n当前记录的第n个字段字段间由FS分隔。

$0完整的输入记录。

ARGC命令行参数的数目。

ARGIN D命令行中当前文件的位置(从0开始算)。ARGV包含命令行参数的数组。

CONVFMT数字转换格式(默认值为%.6g)

ENV IRON环境变量关联数组。

ERRN O最后一个系统错误的描述。

FIELDWID THS字段宽度列表(用空格键分隔)。

FILENAME当前文件名。

FNR同NR但相对于当前文件。

FS字段分隔符(默认是任何空格)。

IGNOREC AS E如果为真则进行忽略大小写的匹配。NF当前记录中的字段数。

NR当前记录数。

OFMT数字的输出格式(默认值是%.6g)。

OFS输出字段分隔符(默认值是一个空格)。

O RS输出记录分隔符(默认值是一个换行符)。

RLEN GTH由match函数所匹配的字符串的长度。RS记录分隔符(默认是一个换行符)。

RS TART由m atc h函数所匹配的字符串的第一个位置。SUBSEP数组下标分隔符(默认值是\034)。

5.awk运算符

Table 2.运算符

运算符描述

=+=-=*=/=%=^=**=赋值

?:C条件表达式

| |逻辑或

&&逻辑与

~~!匹配正则表达式和不匹配正则表达式

<<=>>=!===关系运算符

空格连接

+-加减

*/&乘除与求余

+- !一元加减和逻辑非

^***求幂

++--增加或减少作为前缀或后缀

$字段引用in数组成员

6.记录和域

6.1.记录awk把每一个以换行符结束的行称为一个记录。

记录分隔符默认的输入和输出的分隔符都是回车保存在内建变量O RS和RS中。

$0变量它指的是整条记录。如$awk'{pr int$0}' te st将输出te st文件中的所有记录。

变量N R一个计数器每处理完一条记录N R的值就增加1。如$awk'{p rintNR,$0}' te s t将输出t e st文件中所有记录并在记录前显示记录号。

6.2.域

记录中每个单词称做“域”默认情况下以空格或ta b分隔。 awk可跟踪域的个数并在内建变量NF中保存该值。如$awk'{pr int$1,$3}' te s t将打印t e st文件中第一和第三个以空格分开的列(域)。

6.3.域分隔符

内建变量F S保存输入域分隔符的值默认是空格或ta b。我们可以通过-F命令行选项修改F S的值。如$awk-F: '{print$1,$5}' test将打印以冒号为分隔符的第一第五列的内容。

可以同时使用多个域分隔符这时应该把分隔符写成放到方括号中如$aw k-F'[:\t]' '{print$1,$3}' te st表示以空格、 冒号和tab作为分隔符。

输出域的分隔符默认是一个空格保存在O F S中。如$awk-F: '{p rint$1,$5}' te st$1和$5间的逗号就是OFS的值。

7.gawk专用正则表达式元字符

一般通用的元字符集就不讲了可参考我的Sed和Grep学习笔记。 以下几个是ga w k专用的不适合un ix版本的awk。

\Y

匹配一个单词开头或者末尾的空字符串。

\B

匹配单词内的空字符串。

\<

匹配一个单词的开头的空字符串锚定开始。

\>

匹配一个单词的末尾的空字符串锚定末尾。

\w

匹配一个字母数字组成的单词。

\W

匹配一个非字母数字组成的单词。

\„

匹配字符串开头的一个空字符串。

\'

匹配字符串末尾的一个空字符串。

8.P O S IX字符集

可参考我的Grep学习笔记

9.匹配操作符(~)

用来在记录或者域内匹配正则表达式。如$awk'$1~/^ro o t/' t e st将显示te st文件第一列中以ro o t开头的行。

10.比较表达式conditional expression1 ?expression2:expression3例如 $awk'{max={$1>$3} ?$1:$3:print max}' test。如果第一个域大于第三个域 $1就赋值给max否则$3就赋值给ma x。

$awk'$1+$2<100' test。如果第一和第二个域相加大于100则打印这些行。$awk'$1>5&&$2<10' te s t,如果第一个域大于5并且第二个域小于10则打印这些行。

11.范围模板

范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现则匹配到开头或末尾。如$awk'/root/,/mysql/' test将显示root第一次出现到mysq l第一次出现之间的所有行。

12.一个验证p as swd文件有效性的例子

$c at /etc/p as sw d|a wk-F: '\

NF!=7{\printf("line%d,does not have 7 fields:%s\n",NR,$0)}\

$1 !~/[A-Za-z0-9]/{printf("line%d,nonalpha and numeric user id:%d:%s\n,NR,$0)}\$2=="*" {printf("line%d,no password:%s\n",NR,$0)}'c at把结果输出给awk awk把域之间的分隔符设为冒号。

如果域的数量(NF)不等于7就执行下面的程序。printf打印字符串"line ??does not have 7 fields"并显示该条记录。

如果第一个域没有包含任何字母和数字 printf打印“no alpha and numeric userid" 并显示记录数和记录。

如果第二个域是一个星号就打印字符串“no p asswd”紧跟着显示记录数和记录本身。

13.几个实例

$awk'/^(no|s o)/' te s t-----打印所有以模式no或s o开头的行。

$awk'/^[ns]/{p rint$1}'te s t-----如果记录以n或s开头就打印这个记录。

$awk'$1~/[0-9][0-9]$/(print$1}' tes t-----如果第一个域以两个数字结束就打印这个记录。

$awk'$1==100| |$2<50' te st-----如果第一个或等于100或者第二个域小于50则打印该行。

$awk'$1 !=10' te s t-----如果第一个域不等于10就打印该行。

$awk'/te st/{pr int$1+10}' te s t-----如果记录包含正则表达式te s t则第一个域加10并打印出来。

$awk'{print($1>5?"ok"$1 : "err or"$1)}' te st-----如果第一个域大于5则打印问号后面的表达式值否则打印冒号后面的表达式值。

$awk'/^root/,/^mysq l/' test----打印以正则表达式root开头的记录到以正则表达式mysq l开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录则继续打印直到下一个以正则表达式mysql开头的记录为止或到文件末尾。

14.awk编程

14.1.变量

在aw k中变量不需要定义就可以直接使用变量类型可以是数字或字符串。赋值格式 Variab le=exp re ss io n如$awk'$1~/test/{count=$2+$3;print co unt}'te st,上式的作用是,awk先扫描第一个域一旦te st匹配就把第二个域的值加上第三个域的值并把结果赋值给变量c o unt最后打印出来。awk可以在命令行中给变量赋值然后将这个变量传输给awk脚本。如$awk-F: -f awkscript month=4 year=2004 test上式的month和year都是自定义变量分别被赋值为4和2004。在aw k脚本中这些变量使用起来就象是在脚本中建立的一样。注意如果参数前面出现te s t那么在B EG IN语句中的变量就不能被使用。域变量也可被赋值和修改如$awk'{$2=100+$1;pr int }' te st,上式表示如果第二个域不存在 awk将计算表达式100加$1的值并将其赋值给$2如果第二个域存在则用表达式的值覆盖$2原来的值。再例如 $aw k'$1=="ro o t"{$1

="tes t";print}' test如果第一个域的值是“root”则把它赋值为“te st”注意字符串一定要用双引号。

内建变量的使用。变量列表在前面已列出现在举个例子说明一下。 $awk-

F: '{IGNOREC ASE=1; $1=="MARY"{print NR,$1,$2,$NF}'test把IGNORECAS E设为1代表忽略大小写打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。

14.2.BE GIN模块

B EGIN模块后紧跟着动作块这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值如O F S,RS和F S等 以及打印标题。如 $awk'B EGIN{F S=":";O F S="\t";

O RS="\n\n"} {print$1,$2,$3} tes t。上式表示在处理输入文件以前域分隔符(F S)被设为冒号输出文件分隔符(OFS)被设置为制表符输出记录分隔符(ORS)被设置为两个换行符。 $awk'BEGIN{print "TITLE TEST"}只打印标题。

14.3.END模块

END不匹配任何的输入文件但是执行动作块中的所有动作它在整个输入文件处理完成后被执行。如$awk'END{print "The number ofrecords is"NR}' test上式将打印所有被处理的记录数。

14.4.重定向和管道awk可使用she ll的重定向符进行重定向输出如 $awk'$1=100 {pr int$1>"o utp ut_file" }' test。上式表示如果第一个域的值等于100则把它输出到outp ut_file中。也可以用>>来重定向输出但不清空文件只做追加操作。输出重定向需用到getlin e函数。 getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容并给NF,NR和FNR等内建变量赋值。如果得到一条记录 getline函数返回1如果到达文件的末尾就返回0如果出现错误例如打开文件失败就返回-1。如

$awk'BEGIN{ "date" |getline d;print d}' test。执行linux的date命令并通过管道输出给getline然后再把输出赋值给自定义变量d并打印它。

$awk'BEGIN{"date" |ge tline d; sp lit(d,mon);print mo n[2]}' test。执行s he ll的date命令并通过管道输出给ge tline然后ge tline从管道中读取并将输入赋值给d sp lit函数把变量d转化成数组mon然后打印数组mon的第二个元素。

$awk'BEGIN{while( "ls" |getline)p rint}' 命令ls的输出传递给ge line作为输入循环使getline从ls的输出中读取一行并把它打印到屏幕。这里没有输入文件因为BE GIN块在打开输入文件前执行所以可以忽略输入文件。

$awk'BEGIN{printf"What is your name?";getline name<"/dev/tty" } $1~name {print"Found"name on line",NR"."}END{print "See you,"name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后 getline函数从终端接收该行输入并把它储存在自定义变量name中。如果第一个域匹配变量name的值 print函数就被执行 END块打印See you和name的值。

$awk'BEGIN{while(getline<"/etc/pas swd">0) lc++;print lc}'。 awk将逐行读取文件/etc/pas swd的内容在到达文件末尾前计数器lc一直增加 当到末尾时打印lc的值。注意如果文件不存在 getline返回-1如果到达文件的末尾就返回

0如果读到一行就返回1所以命令while(ge tline<"/etc/pass wd")在文件不存在的情况下将陷入无限循环 因为返回-1表示逻辑真。

可以在awk中打开一个管道且同一时刻只能有一个管道存在。通过clo se()可关闭管道。如 $awk'{print$1,$2| "sort" }' test END{close("sort")} 。 awd把print语句的输出通过管道作为linux命令s or t的输入,EN D块执行关闭管道操作。sys te m函数可以在awk中执行lin ux的命令。如 $awk'B EG IN{s ys t em("c le ar")'。