sed
功能强大的流式文本编辑器
补充说明
sed 是一种流编辑器,它是文本处理中非常中的工具,能够完美的配合正则表达式使用,功能不同凡响。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。
sed的选项、命令、替换标记
命令格式
1 | sed [options] 'command' file(s) |
选项
1 | -e<script>或--expression=<script>:以选项中的指定的script来处理输入的文本文件; |
参数
文件:指定待处理的文本文件列表。
sed命令
1 | a\ # 在当前行下面插入文本。 |
sed替换标记
1 | g # 表示行内全面替换。 |
sed元字符集
1 | ^ # 匹配行开始,如:/^sed/匹配所有以sed开头的行。 |
sed用法实例
替换操作:s命令
替换文本中的字符串:
1 | sed 's/book/books/' file |
-n选项 和 p命令 一起使用表示只打印那些发生替换的行:
sed -n ‘s/test/TEST/p’ file
直接编辑文件 选项-i ,会匹配file文件中每一行的第一个book替换为books:
1 | sed -i 's/book/books/g' file |
全面替换标记g
使用后缀 /g 标记会替换每一行中的所有匹配:
1 | sed 's/book/books/g' file |
当需要从第N处匹配开始替换时,可以使用 /Ng:
1 | echo sksksksksksk | sed 's/sk/SK/2g' |
定界符
以上命令中字符 / 在sed中作为定界符使用,也可以使用任意的定界符:
1 | sed 's:test:TEXT:g' |
定界符出现在样式内部时,需要进行转义:
1 | sed 's/\/bin/\/usr\/local\/bin/g' |
删除操作:d命令
删除空白行:
1 | sed '/^$/d' file |
删除文件的第2行:
1 | sed '2d' file |
删除文件的第2行到末尾所有行:
1 | sed '2,$d' file |
删除文件最后一行:
1 | sed '$d' file |
删除文件中所有开头是test的行:
1 | sed '/^test/'d file |
已匹配字符串标记&
正则表达式 \w+ 匹配每一个单词,使用 [&] 替换它,& 对应于之前所匹配到的单词:
1 | echo this is a test line | sed 's/\w\+/[&]/g' |
所有以192.168.0.1开头的行都会被替换成它自已加localhost:
1 | sed 's/^192.168.0.1/&localhost/' file |
子串匹配标记\1
匹配给定样式的其中一部分:
1 | echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/' |
命令中 digit 7,被替换成了 7。样式匹配到的子串是 7,(..) 用于匹配子串,对于匹配到的第一个子串就标记为 \1 ,依此类推匹配到的第二个结果就是 \2 ,例如:
1 | echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/' |
love被标记为1,所有loveable会被替换成lovers,并打印出来:
1 | sed -n 's/\(love\)able/\1rs/p' file |
组合多个表达式
1 | sed '表达式' | sed '表达式' |
引用
sed表达式可以使用单引号来引用,但是如果表达式内部包含变量字符串,就需要使用双引号。
1 | test=hello |
选定行的范围:,(逗号)
所有在模板test和check所确定的范围内的行都被打印:
1 | sed -n '/test/,/check/p' file |
打印从第5行开始到第一个包含以test开始的行之间的所有行:
1 | sed -n '5,/^test/p' file |
对于模板test和west之间的行,每行的末尾用字符串aaa bbb替换:
1 | sed '/test/,/west/s/$/aaa bbb/' file |
多点编辑:e命令
-e选项允许在同一行里执行多条命令:
1 | sed -e '1,5d' -e 's/test/check/' file |
上面sed表达式的第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
和 -e 等价的命令是 –expression:
1 | sed --expression='s/test/check/' --expression='/love/d' file |
从文件读入:r命令
file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面:
1 | sed '/test/r file' filename |
写入文件:w命令
在example中所有包含test的行都被写入file里:
1 | sed -n '/test/w file' example |
追加(行下):a\命令
将 this is a test line 追加到 以test 开头的行后面:
1 | sed '/^test/a\this is a test line' file |
在 test.conf 文件第2行之后插入 this is a test line:
1 | sed -i '2a\this is a test line' test.conf |
插入(行上):i\命令
将 this is a test line 追加到以test开头的行前面:
1 | sed '/^test/i\this is a test line' file |
在test.conf文件第5行之前插入this is a test line:
1 | sed -i '5i\this is a test line' test.conf |
下一个:n命令
如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续:
1 | sed '/test/{ n; s/aa/bb/; }' file |
变形:y命令
把1~10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令:
1 | sed '1,10y/abcde/ABCDE/' file |
退出:q命令
打印完第10行后,退出sed
1 | sed '10q' file |
保持和获取:h命令和G命令
在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。
1 | sed -e '/test/h' -e '$G' file |
在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
保持和互换:h命令和x命令
互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换:
1 | sed -e '/test/h' -e '/check/x' file |
脚本scriptfile
sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。
1 | sed [options] -f scriptfile file(s) |
打印奇数行或偶数行
方法1:
1 | sed -n 'p;n' test.txt #奇数行 |
方法2:
1 | sed -n '1~2p' test.txt #奇数行 |
打印匹配字符串的下一行
1 | grep -A 1 SCC URFILE |
小练习
删除文件每行的第一个字符:
1 | sed 's/.//' file |
删除文件每行的第二个字符:
1 | sed -r 's/(.)(.)(.*)/\1\3/' file |
删除每行的最后一个字符:
1 | sed -r 's/(.*)(.)$/\1/' file |
删除每行的倒数第二个字符:
1 | sed -r 's/(.*)(.)(.)$/\1\3/' file |
删除文件每行的第二个单词:
1 | sed -r 's/([a-Z]+)([^a-Z]+)([a-Z]+)/\1\2/' file |
删除每行的倒数第二个单词:
1 | sed -r 's/(.*)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)/\1\2\4\5/' file |
删除文件每行的最后一个单词:
1 | sed -r 's/(.*)([^a-Z]+)([a-Z]+)/\1\2/' file |
交换每行的第一个字符和第二个字符:
1 | sed -r 's/(.)(.)(.*)/\2\1\3/' file |
交换每行的第一个字符和第二个单词:
1 | sed -r 's/(.)([a-Z]+)?([^a-Z]+)?([a-Z]+)/\4\2\3\1/' file |
交换每行的第一个单词和最后一个单词:
1 | sed -r 's/([a-Z]+)([^a-Z]+)(.*)([^a-Z]+)([a-Z]+)/\5\2\3\4\1/' file |
删除一个文件中所有的数字:
1 | sed 's/[0-9]//g' file |
删除每行开头的所有空格:
1 | sed 's/^ *//g' file |
用制表符替换文件中出现的所有空格:
1 | sed 's/ /\t/g' file |
把所有大写字母用括号()括起来:
1 | sed 's/[A-Z]/(&)/g' file |
打印每行3次:
1 | sed -n 'p;p;p' file |
隔行删除:
1 | cat -n file | sed 'n;d' |
把文件从第22行到第33行复制到第56行后面:
1 | cat -n file | sed '22h;23,33H;56G' |
把文件从第22行到第33行移动到第56行后面:
1 | cat -n file | sed '22{h;d};23,33{H;d};56G' |
只显示每行的第一个单词
1 | sed -r 's/([a-Z]+)([^a-Z]+)(.*)/\1/' file |
打印每行的第一个单词和第三个单词
1 | sed -r 's/([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/\1:\5/' file |
将格式为 mm/yy/dd 的日期格式换成 mm;yy;dd
1 | echo "mm/yy/dd " | sed 's@/@:@g' |