Linux命令之大文件切分与合并

本网站用的阿里云ECS,推荐大家用。自己搞个学习研究也不错

<

div id=”content” contentScore=”840″>当面临将一个大文件进行切分时,Linux的split命令是很好的选择。它包含多种参数,支持按行、大小进行切分。

split命令的语法如下:

  1. split [–help][–version][-a ][-b][-C ][-l ][要切割的文件][输出文件名前缀] 
split [--help][--version][-a ][-b][-C ][-l ][要切割的文件][输出文件名前缀]

对应的参数描述如下:

  1. -a, –suffix-length=N 
  2.     使用的后缀长度 (默认为 2) 
  3. -b, –bytes=SIZE 
  4.     每个输出文件的字节大小 
  5. -C, –line-bytes=SIZE 
  6.     每个输出文件每行的最大字节大小 
  7. -d, –numeric-suffixes 
  8.     使用数字后缀代替字母后缀 
  9. -l, –lines=NUMBER 
  10.     设定每个输出文件的行数 
  11. –help 显示帮助信息 
  12. –version 
  13.     显示版本信息 
-a, --suffix-length=N
    使用的后缀长度 (默认为 2)
-b, --bytes=SIZE
    每个输出文件的字节大小
-C, --line-bytes=SIZE
    每个输出文件每行的最大字节大小
-d, --numeric-suffixes
    使用数字后缀代替字母后缀
-l, --lines=NUMBER
    设定每个输出文件的行数
--help 显示帮助信息
--version
    显示版本信息

下面举几个例子:

1)将文件splitTest.txt分割成多个文件,分割后的每个文件大小为10M。命令:

  1. $ split -b 20m splitTest.txt 
  2. $ ls 
  3. splitTest.txt  xaa  xab  xac 
$ split -b 20m splitTest.txt
$ ls
splitTest.txt  xaa  xab  xac

2)将文件splitTest.txt分割成多个文件,分割后的每个文件大小为10M。指定分割后的文件前缀位split,命令:

  1. $ split -b 20m splitTest.txt  split 
  2. $ ls 
  3. splitaa  splitab  splitac  splitTest.txt 
$ split -b 20m splitTest.txt  split
$ ls
splitaa  splitab  splitac  splitTest.txt

3)将文件splitTest.txt分割成多个文件,每个文件50万行。命令:

  1. $ wc -l splitTest.txt   
  2. 1502216 splitTest.txt 
  3. $ split -l 500000 splitTest.txt  split 
  4. $ ls 
  5. splitaa  splitab  splitac  splitad  splitTest.txt 
$ wc -l splitTest.txt 
1502216 splitTest.txt
$ split -l 500000 splitTest.txt  split
$ ls
splitaa  splitab  splitac  splitad  splitTest.txt

4)将文件splitTest.txt分割成多个文件,每个文件50万行。指定分割后的文件后缀为数字,数字位数为3位,命令:

  1. $ wc -l splitTest.txt   
  2. 1502216 splitTest.txt 
  3. $ split -l 500000 -d -a 3 splitTest.txt  split 
  4. $ ls 
  5. split000  split001  split002  split003  splitTest.txt 
$ wc -l splitTest.txt 
1502216 splitTest.txt
$ split -l 500000 -d -a 3 splitTest.txt  split
$ ls
split000  split001  split002  split003  splitTest.txt

可以使用cat命令将切分后的文件合并成新的文件:

  1. $ cat split0* > original.txt 

未经允许不得转载:演道网 » Linux命令之大文件切分与合并

赞 (0)
分享到:更多 ()

评论 0

评论前必须登录!

登陆 注册