Linux shell编程

1. shell编程

2. sed命令

3. awk命令

4. crontab定时器

5. 高级文本文件处理sort cut wc

6. sed详解(会使用,有些东西可能一辈子也不会去使用的)

7. awk详解

目标：因为shell编程有时候不和我们的java类似。是一种固定的语法类型。 这样来说，就是我们基本能看懂一些shell编程的文件，拿过来懂得怎么去用、怎么去改，就可以了。 在进行编程如果看不懂，就可以一点一点的

什么是SHELL

• Shell是用户与内核进行交互操作的一种接口，目前最流行的Shell称为bash Shell
• Shell也是一门编程语言<解释型的编程语言>，即shell脚本
• 一个系统可以存在多个shell，可以通过cat /etc/shells命令查看系统中安装的shell，不同的shell可能支持的命令语法是不相同的

注意：A=`wc -c` 反引号. 引用上一个变量的输出结果！！！（即，运行里面的命令并把结果返回给变量A）——将命令的返回值赋值给结果。 （注意等价于： A=$(wc -c)）

Shell脚本的执行方式Shell脚本的执行方式

①第一种：输入脚本的绝对路径或相对路径 首先要赋予+x权限 /root/helloWorld.sh ./helloWorld.sh 或者，不用赋予+x权限，而用解释器解释执行 sh helloworld.sh ②第二种：bash或sh +脚本 sh /root/helloWorld.sh sh helloWorld.sh ③第三种：在脚本的路径前再加”. “ . /root/helloWorld.sh . ./helloWorld.sh 注意：区别：第一种和第二种会新开一个bash，不同bash中的变量无法共享

Shell中的变量

• Linux Shell中的变量分为“系统变量”和“用户自定义变量”，可以通过set命令查看那系统变量
• 系统变量：$HOME、$PWD、$SHELL、$USER等等
• 显示当前shell中所有变量 : set

定义变量

• 变量＝值 （例如STR=abc）
• 等号两侧不能有空格
• 变量名称一般习惯为大写
• 双引号和单引号有区别，双引号仅将空格脱意，单引号会将所有特殊字符脱意

STR=”hello world”
A=9
unset A 撤销变量 A
readonly B=2 声明静态的变量 B=2 ，不能 unset
export 变量名 可把变量提升为全局环境变量，可供其他shell程序使用
soource /etc/profile 就是将profiile文件夹里面的，export 全局变量全部输出一遍，获取最新的全局变量。

将命令的返回值赋给变量

•A=`ls -la` 反引号，运行里面的命令，并把结果返回给变量A •A=$(ls -la) 等价于反引号

Shell中的特殊变量(前面都要加上echo $)

•$? 表示上一个命令退出的状态 //echo $? 返回 表示上次命令执行的返回值。或说状态。0 表示返回正确 •$$ 表示当前进程编号 •$0 表示当前脚本名称 •$n 表示n位置的输入参数（n代表数字，n>=1） •$# 表示参数的个数，常用于循环 •$*和$@ 都表示参数列表

$*与$@区别

•$* 和 $@ 都表示传递给函数或脚本的所有参数，不被双引号” “包含时，都以$1 $2 … $n 的形式输出所有参数 •当它们被双引号” “包含时，”$*” 会将所有的参数作为一个整体，以”$1 $2 … $n”的形式输出所有参数；”$@” 会将各个参数分开，以”$1” “$2” … “$n” 的形式输出所有参数

运算符

l格式 :expr m + n 或$((m+n)) 注意expr运算符间要有空格 l例如计算（2 ＋3 ）×4 的值 1 .分步计算 S=`expr 2 + 3` expr $S \* 4 2.一步完成计算 expr `expr 2 + 3 ` \* 4 echo `expr \\`expr 2 + 3\` \* 4` 或 $(((2+3)*4))

for循环

第一种：
for N in 1 2 3
do
echo $N
done
或
for N in 1 2 3; do echo $N; done
或
for N in {1..3}; do echo $N; done
第二种：
for ((i = 0; i <= 5; i++))
do
echo “welcome $i times”
done
或
for ((i = 0; i <= 5; i++)); do echo “welcome $i times”; done

while循环

第一种
while expression
do
command
…
done
//注意 [ 2 -gt 1 ] 这是一个表达式，然而 while 1 就是不对的！
第二种
i=1
while ((i<=3))
do
echo $i
let i++
done

case语句

格式
case $1 in
start)
echo “starting”
;;
stop)
echo “stoping”
;;
*)
echo “Usage: {start|stop} “
esac
//脚本语言当中，Python还是比shell规范一些的~ 大概就没有一些shell中这些恶心的语法了。

read命令

read -p(提示语句)-n(字符个数) -t(等待时间)
read -p “please input your name: “ NAME
使用示例：

read -p “please input your name: “ c

->please input your name: name

echo $c

->name

if判断&例子

语法
if condition
then
statements
[elif condition
then statements. ..]
[else
statements ]
fi
语法、单词 掌握学号。

例子： #!/bin/bash read -p “please input your name:” NAME #printf ‘%s\\n’ $NAME if [ $NAME = root ] then echo “hello ${NAME}, welcome !” elif [ $NAME = itcast ] then echo “hello ${NAME}, welcome !” else echo “SB, get out here !” fi

判断语句：

[ condition ] (注意condition前后要有空格)

非空返回true，可使用$?验证（0为true，>1为false）

[ itcast ]

空返回false

[ ]
[ condition ] && echo OK || echo notok
条件满足，执行后面的语句

常用判断条件

= 字符串比较
-lt 小于
-le 小于等于
-eq 等于
-gt 大于
-ge 大于等于
-ne 不等于
-r 有读的权限
-w 有写的权限
-x 有执行的权限
-f 文件存在并且是一个常规的文件
-s 文件存在且不为空
-d 文件存在并是一个目录
-b文件存在并且是一个块设备
-L 文件存在并且是一个链接

Shell自定义函数

语法
[ function ] funname [()]
{
action;
[return int;] //注意返回的值只能是int 而且是0-255 $?可以得到.
}
function start() / function start / start()
注意：
1.必须在调用函数地方之前，先声明函数，shell脚本是逐行运行。不会像其它语言一样先预编译
2.函数返回值，只能通过$? 系统变量获得，可以显示加：return 返回，如果不加，将以最后一条命令运行结果，作为返回值。 return后跟数值n(0-255)

脚本调试：

•sh -vx helloWorld.sh •或者在脚本中增加set -x

[hadoop@aclear shell]$ sh -vx if_console.sh //例子

!/bin/bash

read -p “please input your name:” NAME
+ read -p ‘please input your name:’ NAME
please input your name:root

printf ‘%s\\n’ $NAME

if [ $NAME = root ]
then
echo “hello ${NAME}, welcome !”
elif [ $NAME = itcast ]
then
echo “hello ${NAME}, welcome !”
else
echo “SB, get out here !”
fi
+ ‘[‘ root = root ‘]‘
+ echo ‘hello root, welcome !’
hello root, welcome !

高级文本文件命令 处理：

sed命令

•sed全称是：Stream EDitor即流编辑器，是一个很好的文本处理工具，本身是一个管道命令，处理时，把当前处理的行存储在临时缓冲区中，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行。它是以行为单位进行处理，可以将数据行进行替换、删除、新增、选取等特定工作。

sed选项

•-n ：使用安静(silent)模式。在一般 sed 的用法中，所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后，则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。 •-e ：直接在命令列模式上进行 sed 的动作编辑； •-i ：直接修改读取的文件内容，而不是输出到终端。

sed function

•a ：新增， a 的后面可以接字串，而这些字串会在新的一行出现(目前的下一行) •d ：删除，因为是删除啊，所以 d 后面通常不接任何内容 •i ：插入， i 的后面可以接字串，而这些字串会在新的一行出现(目前的上一行) •p ：列印，亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行 •s ：取代，可以直接进行取代的工作！通常这个 s 的动作可以搭配正规表示法！例如 1,20s/old/new/g

awk命令

•AWK是一种优良的文本处理工具。其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母，AWK 提供了极其强大的功能：可以进行样式装入、流控制、数学运算符、进程控制语句甚至于内置的变量和函数。它具备了一个完整的语言所应具有的几乎所有精美特性。实际上 AWK 的确拥有自己的语言：AWK 程序设计语言， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。 注意格式为： awk ‘pattern1 {action1} pattern2 {action2} …’ filename sort sort 命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。 sort语法 [root@www ~]# sort [-fbMnrtuk] [file or stdin] 选项与参数： -f ：忽略大小写的差异，例如 A 与 a 视为编码相同； -b ：忽略最前面的空格符部分； -M ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法； -n ：使用『纯数字』进行排序(默认是以文字型态来排序的)； -r ：反向排序； -u ：就是 uniq ，相同的数据中，仅出现一行代表； -t ：分隔符，默认是用 [tab] 键来分隔； -k ：以那个区间 (field) 来进行排序的意思 对/etc/passwd 的账号进行排序 [root@www ~]# cat /etc/passwd | sort adm:x:3:4:adm:/var/adm:/sbin/nologin apache:x:48:48:Apache:/var/www:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin daemon:x:2:2:daemon:/sbin:/sbin/nologin sort 是默认以第一个数据来排序，而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。 /etc/passwd 内容是以 : 来分隔的，我想以第三栏(按照用户id来进行排序,但是按照字典来的0 10来进行排序)来排序，该如何 [root@www ~]# cat /etc/passwd | sort -t ‘:’ -k 3 //用户名:密码占位符:用户id:所属主要组:代号:家目录:默认 用到的shell解释器 在/bin/bash 里面. root:x:0:0:root:/root:/bin/bash //id 从500开始的是普通用户。小于500是特殊用户。 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin operator:x:11:0:operator:/root:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin games:x:12:100:games:/usr/games:/sbin/nologin 默认是以字符串来排序的，如果想要使用数字排序： cat /etc/passwd | sort -t ‘:’ -k 3n root:x:0:0:root:/root:/bin/bash daemon:x:1:1:daemon:/usr/sbin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh 默认是升序排序，如果要倒序排序，如下 cat /etc/passwd | sort -t ‘:’ -k 3nr nobody:x:65534:65534:nobody:/nonexistent:/bin/sh ntp:x:106:113::/home/ntp:/bin/false messagebus:x:105:109::/var/run/dbus:/bin/false sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin 如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序。 cat /etc/passwd | sort -t’:’ -k 6.2,6.4 -k 1r sync:x:4:65534:sync:/bin:/bin/sync proxy:x:13:13:proxy:/bin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh sys:x:3:3:sys:/dev:/bin/sh 查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重: cat /etc/passwd | sort -t’:’ -k 7 -u root:x:0:0:root:/root:/bin/bash syslog:x:101:102::/home/syslog:/bin/false daemon:x:1:1:daemon:/usr/sbin:/bin/sh sync:x:4:65534:sync:/bin:/bin/sync sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin uniq uniq命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。 即： # cat /etc/passwd | sort | uniq -c uniq语法 [root@www ~]# uniq [-icu] 选项与参数： -i ：忽略大小写字符的不同； -c ：进行计数 -u ：只显示唯一的行 testfile的内容如下 cat testfile hello world friend hello world hello 直接删除未经排序的文件，将会发现没有任何行被删除 #uniq testfile hello world friend hello world hello 排序文件，默认是去重 #cat testfile | sort |uniq friend hello world 排序之后删除了重复行，同时在行首位置输出该行重复的次数 #sort testfile | uniq -c 1 friend 3 hello 2 world 仅显示存在重复的行，并在行首显示该行重复的次数 #sort testfile | uniq -dc 3 hello 2 world 仅显示不重复的行 sort testfile | uniq -u friend cut cut命令可以从一个文本文件或者文本流中提取文本列。 cut语法 [root@www ~]# cut -d’分隔字符’ -f fields <==用于有特定分隔字符 [root@www ~]# cut -c 字符区间 <==用于排列整齐的信息 选项与参数： -d ：后面接分隔字符。与 -f 一起使用； -f ：依据 -d 的分隔字符将一段信息分割成为数段，用 -f 取出第几段的意思； -c ：以字符 (characters) 的单位取出固定字符区间； PATH 变量如下 [root@www ~]# echo $PATH /bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games # 1 | 2 | 3 | 4 | 5 | 6 | 7 将 PATH 变量取出，我要找出第五个路径。 #echo $PATH | cut -d ‘:’ -f 5 /usr/local/bin 将 PATH 变量取出，我要找出第三和第五个路径。 #echo $PATH | cut -d ‘:’ -f 3,5 /sbin:/usr/local/bin 将 PATH 变量取出，我要找出第三到最后一个路径。 echo $PATH | cut -d ‘:’ -f 3- /sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games 将 PATH 变量取出，我要找出第一到第三个路径。 #echo $PATH | cut -d ‘:’ -f 1-3 /bin:/usr/bin:/sbin: 将 PATH 变量取出，我要找出第一到第三，还有第五个路径。 echo $PATH | cut -d ‘:’ -f 1-3,5 /bin:/usr/bin:/sbin:/usr/local/bin 实用例子:只显示/etc/passwd的用户和shell #cat /etc/passwd | cut -d ‘:’ -f 1,7 root:/bin/bash daemon:/bin/sh bin:/bin/sh wc 统计文件里面有多少单词，多少行，多少字符。 wc语法 [root@www ~]# wc [-lwm] 选项与参数： -l ：仅列出行； -w ：仅列出多少字(英文单字)； -m ：多少字符； 默认使用wc统计/etc/passwd #wc /etc/passwd 40 45 1719 /etc/passwd 40是行数，45是单词数，1719是字节数w wc的命令比较简单使用，每个参数使用如下： #wc -l /etc/passwd #统计行数，在对记录数时，很常用 40 /etc/passwd #表示系统有40个账户 #wc -w /etc/passwd #统计单词出现次数 45 /etc/passwd #wc -m /etc/passwd #统计文件的字符数 1719 参考 http://vbird.dic.ksu.edu.tw/linux\_basic/0320bash\_6.php#pipe_2 http://www.cnblogs.com/stephen-liu74/archive/2011/11/10/2240461.html

sed详解

1. Sed简介 sed 是一种在线编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有 改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。 2. 定址 可以通过定址来定位你所希望编辑的行，该地址用数字构成，用逗号分隔的两个行数表示以这两行为起止的行的范围（包括行数表示的那两行）。如1，3表示1，2，3行，美元符号($)表示最后一行。范围可以通过数据，正则表达式或者二者结合的方式确定 。 3. Sed命令 调用sed命令有两种形式： sed [options] ‘command’ file(s) sed [options] -f scriptfile file(s) a\ 在当前行后面加入一行文本。 b lable 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。 c\ 用新的文本改变本行的文本。 d 从模板块（Pattern space）位置删除行。 D 删除模板块的第一行。 i\ 在当前行上面插入文本。 h 拷贝模板块的内容到内存中的缓冲区。 H 追加模板块的内容到内存中的缓冲区 g 获得内存缓冲区的内容，并替代当前模板块中的文本。 G 获得内存缓冲区的内容，并追加到当前模板块文本的后面。 l 列表不能打印字符的清单。 n 读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。 N 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。 p 打印模板块的行。 P（大写） 打印模板块的第一行。 q 退出Sed。 r file 从file中读行。 t label if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。 T label 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。 w file 写并追加模板块到file末尾。 W file 写并追加模板块的第一行到file末尾。 ! 表示后面的命令对所有没有被选定的行发生作用。 s/re/string 用string替换正则表达式re。 = 打印当前行号码。 # 把注释扩展到下一个换行符以前。 以下的是替换标记 g表示行内全面替换。 p表示打印行。 w表示把行写入一个文件。 x表示互换模板块中的文本和缓冲区中的文本。 y表示把一个字符翻译为另外的字符（但是不用于正则表达式） 4. 选项 -e command, —expression=command 允许多台编辑。 -h, —help 打印帮助，并显示bug列表的地址。 -n, —quiet, —silent 取消默认输出。 -f, —filer=script-file 引导sed脚本文件名。 -V, —version 打印版本和版权信息。 5. 元字符集^ 锚定行的开始 如：/^sed/匹配所有以sed开头的行。 $ 锚定行的结束 如：/sed$/匹配所有以sed结尾的行。 . 匹配一个非换行符的字符 如：/s.d/匹配s后接一个任意字符，然后是d。 匹配零或多个字符 如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 [] 匹配一个指定范围内的字符，如/[Ss]ed/匹配sed和Sed。 [^] 匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。 \(..\) 保存匹配的字符，如s/\(love\)able/\\1rs，loveable被替换成lovers。 & 保存搜索字符用来替换其他字符，如s/love/**&*/，love这成\*love**。 \\< 锚定单词的开始，如:/\\ 锚定单词的结束，如/love\>/匹配包含以love结尾的单词的行。 x\\{m\\} 重复字符x，m次，如：/o\\{5\\}/匹配包含5个o的行。 x\\{m,\\} 重复字符x,至少m次，如：/o\\{5,\\}/匹配至少有5个o的行。 x\\{m,n\\} 重复字符x，至少m次，不多于n次，如：/o\\{5,10\\}/匹配5—10个o的行。 6. 实例(其实就是类似于 正则表达式的思想) 删除：d命令 $ sed ‘2d’ example——-删除example文件的第二行。 $ sed ‘2,$d’ example——-删除example文件的第二行到末尾所有行。 * $ sed ‘$d’ example——-删除example文件的最后一行。 $ sed ‘/test/‘d example——-删除example文件所有包含test的行。 替换：s命令 $ sed ‘s/test/mytest/g’ example——-在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest。 $ sed -n ‘s/^test/mytest/p’ example——-(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印它。 $ sed ‘s/^192.168.0.1/&localhost/‘ example——-&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost。 $ sed -n ‘s/\(love\)able/\\1rs/p’ example——-love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。 \ $ sed ‘s#10#100#g’ example——-不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替换成100。 选定行的范围：逗号 $ sed -n ‘/test/,/check/p’ example——-所有在模板test和check所确定的范围内的行都被打印。 $ sed -n ‘5,/^test/p’ example——-打印从第五行开始到第一个包含以test开始的行之间的所有行。 $ sed ‘/test/,/check/s/$/sed test/‘ example——-对于模板test和west之间的行，每行的末尾用字符串sed test替换。 多点编辑：e命令 $ sed -e ‘1,5d’ -e ‘s/test/check/‘ example——-(-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。 $ sed —expression=’s/test/check/‘ —expression=’/love/d’ example——-一个比-e更好的命令是—expression。它能给sed表达式赋值。 从文件读入：r命令 $ sed ‘/test/r file’ example——-file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面。 写入文件：w命令 $ sed -n ‘/test/w file’ example——-在example中所有包含test的行都被写入file里。 追加命令：a命令 $ sed ‘/^test/a\\-—>this is a example’ example ‘——->this is a example’被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠。 插入：i命令 $ sed ‘/test/i\\\ new line ————————————-‘ example 如果test被匹配，则把反斜杠后面的文本插入到匹配行的前面。 下一个：n命令 $ sed ‘/test/{ n; s/aa/bb/; }’ example——-如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续。 变形：y命令 $ sed ‘1,10y/abcde/ABCDE/‘ example——-把1—10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令。 退出：q命令 $ sed ‘10q’ example——-打印完第10行后，退出sed。 保持和获取：h命令和G命令 $ sed -e ‘/test/h’ -e ‘$G example——-在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。 保持和互换：h命令和x命令 * $ sed -e ‘/test/h’ -e ‘/check/x’ example ——-互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。 7. 脚本 Sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。

awk详解

简介 awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。 awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。 awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。 使用方法 awk ‘{pattern + action}’ {filenames} 尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。 awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。 通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。 调用awk 有三种方式调用awk 1.命令行方式 awk [-F field-separator] ‘commands’ input-file(s) 其中，commands 是真正awk命令，[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。 在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。 2.shell脚本方式 将所有的awk命令插入一个文件，并使awk程序可执行，然后awk命令解释器作为脚本的首行，一遍通过键入脚本名称来调用。 相当于shell脚本首行的：#!/bin/sh 可以换成：#!/bin/awk 3.将所有的awk命令插入一个单独文件，然后调用： awk -f awk-script-file input-file(s) 其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。 本章重点介绍命令行方式。 入门实例 假设last -n 5的输出如下 [root@www ~]# last -n 5 <==仅取出前五行 root pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in root pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41) root pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48) dmtsai pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00) root tty1 Fri Sep 5 14:09 - 14:10 (00:01) 如果只是显示最近登录的5个帐号 #last -n 5 | awk ‘{print $1}’ //注意默认是以 空格和tab作为分隔符的 root root root dmtsai root awk工作流程是这样的：读入有’\\n’换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是”空白键” 或 “[tab]键”,所以$1表示登录用户，$3表示登录用户ip,以此类推。 如果只是显示/etc/passwd的账户 #cat /etc/passwd |awk -F ‘:’ ‘{print $1}’ root daemon bin sys 这种是awk+action的示例，每行都会执行action{print $1}。 -F指定域分隔符为’:’。 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割 #cat /etc/passwd |awk -F ‘:’ ‘{print $1”\\t”$7}’ root /bin/bash daemon /bin/sh bin /bin/sh sys /bin/sh 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加”blue,/bin/nosh”。 cat /etc/passwd |awk -F ‘:’ ‘BEGIN {print “name,shell”} {print $1”,”$7} END {print “blue,/bin/nosh”}’ name,shell root,/bin/bash daemon,/bin/sh bin,/bin/sh sys,/bin/sh …. blue,/bin/nosh awk工作流程是这样的：先执行BEGING，然后读取文件，读入有/n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。 搜索/etc/passwd有root关键字的所有行 #awk -F: ‘/root/‘ /etc/passwd root:x:0:0:root:/root:/bin/bash 这种是pattern的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。 搜索支持正则，例如找root开头的: awk -F: ‘/^root/‘ /etc/passwd 搜索/etc/passwd有root关键字的所有行，并显示对应的shell # awk -F: ‘/root/{print $7}’ /etc/passwd /bin/bash 这里指定了action{print $7} awk内置变量 awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。 ARGC 命令行参数个数 ARGV 命令行参数排列 ENVIRON 支持队列中系统环境变量的使用 FILENAME awk浏览的文件名 FNR 浏览文件的记录数 FS 设置输入域分隔符，等价于命令行 -F选项 NF 浏览记录的域的个数 NR 已读的记录数 OFS 输出域分隔符 ORS 输出记录分隔符 RS 控制记录分隔符 此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,……以此类推。 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容: #awk -F ‘:’ ‘{print “filename:” FILENAME “,linenumber:” NR “,columns:” NF “,linecontent:”$0}’ /etc/passwd filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh 使用printf替代print,可以让代码更加简洁，易读 awk -F ‘:’ ‘{printf(“filename:%s,linenumber:%s,columns:%s,linecontent:%s\\n”,FILENAME,NR,NF,$0)}’ /etc/passwd print和printf awk中同时提供了print和printf两种打印输出的函数。 其中print函数的参数可以是变量、数值或者字符串。字符串必须用双引号引用，参数用逗号分隔。如果没有逗号，参数就串联在一起而无法区分。这里，逗号的作用与输出文件的分隔符的作用是一样的，只是后者是空格而已。 printf函数，其用法和c语言中printf基本相似,可以格式化字符串,输出复杂时，printf更加好用，代码更易懂。 %%%%%%%%%%%%%%%%%%%%%%%%%%%下面的没事就不用看了,用到用不到的时候再看、再说%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% awk编程 变量和赋值 除了awk的内置变量，awk还可以自定义变量。 下面统计/etc/passwd的账户人数 awk ‘{count++;print $0;} END{print “user count is “, count}’ /etc/passwd root:x:0:0:root:/root:/bin/bash …… user count is 40 count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。 这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0: awk ‘BEGIN {count=0;print “[start]user count is “, count} {count=count+1;print $0;} END{print “[end]user count is “, count}’ /etc/passwd [start]user count is 0 root:x:0:0:root:/root:/bin/bash … [end]user count is 40 统计某个文件夹下的文件占用的字节数 ls -l |awk ‘BEGIN {size=0;} {size=size+$5;} END{print “[end]size is “, size}’ [end]size is 8657198 如果以M为单位显示: ls -l |awk ‘BEGIN {size=0;} {size=size+$5;} END{print “[end]size is “, size/1024/1024,”M”}’ [end]size is 8.25889 M 注意，统计不包括文件夹的子目录。 条件语句 awk中的条件语句是从C语言中借鉴来的，见如下声明方式： if (expression) { statement; statement; … … } if (expression) { statement; } else { statement2; } if (expression) { statement1; } else if (expression1) { statement2; } else { statement3; } 统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹): ls -l |awk ‘BEGIN {size=0;print “[start]size is “, size} {if($5!=4096){size=size+$5;}} END{print “[end]size is “, size/1024/1024,”M”}’ [end]size is 8.22339 M 循环语句 awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。 数组 因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。 显示/etc/passwd的账户 awk -F ‘:’ ‘BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}’ /etc/passwd 0 root 1 daemon 2 bin 3 sys 4 sync 5 games …… 这里使用for循环遍历数组 awk编程的内容极多，这里只罗列简单常用的用法，更多请参考 http://www.gnu.org/software/gawk/manual/gawk.html