Linux命令行uniq及sort、wc、cut命令-白红宇

Linux命令行uniq及sort、wc、cut命令

阅读量：5768 次

发布时间：2019-06-18

本文共 5507 字，大约阅读时间需要 18 分钟。

uniq

uniq [选项] 文件

说明：这个命令读取输入文件，并比较相邻的行。在正常情况下，第二个及以后更多个重复行将被删去，行比较是根据所用字符集的排序序列进行的。该命令加工后的结果写到输出文件中。输入文件和输出文件必须不同。如果输入文件用“- ”表示，则从标准输入读取。

该命令各选项含义如下：

– c 显示输出中，在每行行首加上本行在文件中出现的次数。它可取代- u和- d选项。

– d 只显示重复行。

– u 只显示文件中不重复的各行。

– n 前n个字段与每个字段前的空白一起被忽略。一个字段是一个非空格、非制表符的字符串，彼此由制表符和空格隔开(字段从0开始编号)。

+n 前n个字符被忽略，之前的字符被跳过(字符从0开始编号)。

– f n 与- n相同，这里n是字段数。

– s n 与+n相同，这里n是字符数。

接下来通过实践实例说明：

===========================================

[root@stu100 ~]# cat test boy took bat home boy took bat home girl took bat home boy took bat home boy took bat home dog brought hat home dog brought hat home dog brought hat home

看test文件的内容

============================================

[root@stu100 ~]# uniq test boy took bat home girl took bat home boy took bat home dog brought hat home

uniq命令不加任何参数，仅显示连续重复的行一次

============================================

[root@stu100 ~]# uniq -c test 2 boy took bat home 1 girl took bat home 2 boy took bat home 3 dog brought hat home 1

-c 参数显示文件中每行连续出现的次数。

============================================

[root@stu100 ~]# cat test |sort | uniq -c 1 4 boy took bat home 3 dog brought hat home 1 girl took bat home

排序后再显示

============================================

[root@stu100 ~]# uniq -d test boy took bat home boy took bat home dog brought hat home

-d选项仅显示文件中连续重复出现的行。

============================================

[root@stu100 ~]# uniq -u test girl took bat home

-u选项显示文件中没有连续出现的行。

============================================

[root@stu100 ~]# uniq -f 2 -s 2 test boy took bat home

忽略每行的前2个字段，忽略第二个空白字符和第三个字段的首字符，结果at home

============================================

[root@stu100 ~]# uniq -f 1 test boy took bat home dog brought hat home

忽略每行的第一个字段，这样boy ，girl开头的行看起来是连续重复的行。

============================================

[root@stu100 ~]# uniq -D test boy took bat home boy took bat home boy took bat home boy took bat home dog brought hat home dog brought hat home dog brought hat home

显示所有重复的行，每个重复的行都显示

原文：

sort  sort命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。 sort语法 [root@www ~]# sort [-fbMnrtuk] [file or stdin] 选项与参数： -f  ：忽略大小写的差异，例如 A 与 a 视为编码相同； -b  ：忽略最前面的空格符部分； -M  ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法； -n  ：使用『纯数字』进行排序(默认是以文字型态来排序的)； -r  ：反向排序； -u  ：就是 uniq ，相同的数据中，仅出现一行代表； -t  ：分隔符，默认是用 [tab] 键来分隔； -k  ：以那个区间 (field) 来进行排序的意思 对/etc/passwd 的账号进行排序 [root@www ~]# cat /etc/passwd | sort adm:x:3:4:adm:/var/adm:/sbin/nologin apache:x:48:48:Apache:/var/www:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin daemon:x:2:2:daemon:/sbin:/sbin/nologin sort 是默认以第一个数据来排序，而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。   /etc/passwd 内容是以 : 来分隔的，我想以第三栏来排序，该如何 [root@www ~]# cat /etc/passwd | sort -t ':' -k 3 root:x:0:0:root:/root:/bin/bash uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin operator:x:11:0:operator:/root:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin games:x:12:100:games:/usr/games:/sbin/nologin 默认是以字符串来排序的，如果想要使用数字排序： cat /etc/passwd | sort -t ':' -k 3n root:x:0:0:root:/root:/bin/bash daemon:x:1:1:daemon:/usr/sbin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh 默认是升序排序，如果要倒序排序，如下 cat /etc/passwd | sort -t ':' -k 3nr nobody:x:65534:65534:nobody:/nonexistent:/bin/sh ntp:x:106:113::/home/ntp:/bin/false messagebus:x:105:109::/var/run/dbus:/bin/false sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin   如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序。 cat /etc/passwd |  sort -t':' -k 6.2,6.4 -k 1r       sync:x:4:65534:sync:/bin:/bin/sync proxy:x:13:13:proxy:/bin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh sys:x:3:3:sys:/dev:/bin/sh   查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重: cat /etc/passwd |  sort -t':' -k 7 -u root:x:0:0:root:/root:/bin/bash syslog:x:101:102::/home/syslog:/bin/false daemon:x:1:1:daemon:/usr/sbin:/bin/sh sync:x:4:65534:sync:/bin:/bin/sync sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin

uniq及sort、awk、sed命令结合使用举例

#!/bin/bash #在.do后面插入字符'空格+aaaa'，方便awk取值 sed 's/*.do/& aaa/g' api_tj.2016-07-16.txt| #将文本中相同的内容轮询，并计算出该相同内容后面的指定值的平均值 awk '{a[$1]+=$3;b[$1]++};END{for (i in a){print i,a[i]/b[i],b[i]}}'|sort -k2nr|grep -v ?   #完整查询接口响应时间，并计算出平均值 sed 's/.do/& aaa/g' ../localhost_access_log.2016-07-18.txt|grep .do|grep -v yyg/https|sed -e '/^$/d'|awk '{a[$7]+=$11;b[$7]++};END{for (i in a){print i,a[i]/b[i],b[i]}}'|sort -k2nr|grep -v ?

cut

cut命令可以从一个文本文件或者文本流中提取文本列。

cut语法

[root@www ~]# cut -d'分隔字符' -f fields <==用于有特定分隔字符

[root@www ~]# cut -c 字符区间 <==用于排列整齐的信息

选项与参数：

-d ：后面接分隔字符。与 -f 一起使用；

-f ：依据 -d 的分隔字符将一段信息分割成为数段，用 -f 取出第几段的意思；

-c ：以字符 (characters) 的单位取出固定字符区间；

PATH 变量如下

[root@www ~]# echo $PATH

/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games