0%

Linux 实现文件的去重

发表于 更新于 分类于
本文字数： 522 阅读时长 ≈ 1 分钟
Linux 实现文件的去重

Linux 实现文件的去重

转载出处

1
2
3
作者：大数据技术宅
链接：https://www.cnblogs.com/followees/p/7845575.html
来源：博客园

实现文件的去重

1. 两个文件的交集，并集
1
2
3
4
5
6
7
8
9
10
11
# 取出两个文件的并集(重复的行只保留一份)

cat file1 file2 | sort | uniq > file3

# 取出两个文件的交集(只留下同时存在于两个文件中的文件)

cat file1 file2 | sort | uniq -d > file3

# 删除交集，留下其他的行

cat file1 file2 | sort | uniq -u > file3
2. 两个文件合并
1
2
3
4
5
6
7
# 一个文件在上，一个文件在下

cat file1 file2 > file3

# 一个文件在左，一个文件在右

paste file1 file2 > file3
3. 一个文件去掉重复的行
1
2
3
4
5
6
7
sort file | uniq > file1

注意：重复的多行记为一行，也就是说这些重复的行还在，只是全部省略为一行！

sort file | uniq –u > file1

上面的命令可以把重复的行全部去掉，也就是文件中的非重复行！