Linux生產(chǎn)環(huán)境上最常用的Sed技巧有哪些

sed命令應(yīng)用廣泛，使用簡(jiǎn)單，是快速文本處理的利器。它其實(shí)沒(méi)多少技巧，背誦、使用是最合適的學(xué)習(xí)渠道，屬于硬技能。但它又很復(fù)雜，因?yàn)楦呒?jí)功能太多。小編不去關(guān)注sed的高級(jí)功能，僅對(duì)常用的一些操作，進(jìn)行說(shuō)明。
隨著使用，你會(huì)發(fā)現(xiàn)它和vim的一些理念是相通的，正則表達(dá)式的語(yǔ)法也基本上一樣，并沒(méi)有多少學(xué)習(xí)成本。從個(gè)人視野和工作效率上來(lái)看，sed命令都是程序員必須掌握的一個(gè)重要工具。

一個(gè)簡(jiǎn)單的入門(mén)

如圖，一個(gè)簡(jiǎn)單的sed命令包含三個(gè)主要部分：參數(shù)、范圍、操作。要操作的文件，可以直接掛在命令行的最后。除了命令行，sed也可以通過(guò)-f參數(shù)指定一個(gè)sed腳本，這個(gè)屬于高級(jí)用法，不做過(guò)多描述。

有些示例命令我會(huì)重復(fù)多次，聰明如你一定能發(fā)現(xiàn)其中規(guī)律，有時(shí)連解釋都用不著。

參數(shù)

-n 這個(gè)參數(shù)是--quiet或者--silent的意思。表明忽略執(zhí)行過(guò)程的輸出，只輸出我們的結(jié)果即可。

我們常用的還有另外一個(gè)參數(shù) ：-i。

使用此參數(shù)后，所有改動(dòng)將在原文件上執(zhí)行。你的輸出將覆蓋原文件。非常危險(xiǎn)，一定要注意。

范圍

1,4 表示找到文件中1,2,3,4行的內(nèi)容。
這個(gè)范圍的指定很有靈性，請(qǐng)看以下示例（請(qǐng)自行替換圖中的范圍部分）。

5 選擇第5行。
2,5 選擇2到5行，共4行。
1~2 選擇奇數(shù)行。
2~2 選擇偶數(shù)行。
2,+3 和2,5的效果是一樣的，共4行。
2,$ 從第二行到文件結(jié)尾。

范圍的選擇還可以使用正則匹配。請(qǐng)看下面示例。

/sys/,+3 選擇出現(xiàn)sys字樣的行，以及后面的三行。
/^sys/,/mem/ 選擇以sys開(kāi)頭的行，和出現(xiàn)mem字樣行之間的數(shù)據(jù)。

為了直觀，下面的命令一一對(duì)應(yīng)上面的介紹，范圍和操作之間是可以有空格的。

sed -n '5p' filesed -n '2,5 p' filesed -n '1~2 p' filesed -n '2~2 p' filesed -n '2,+3p' filesed -n '2,$ p' filesed -n '/sys/,+3 p' filesed -n '/^sys/,/mem/p' file

操作

最常用的操作就是p，意思就是打印。比如，以下兩個(gè)命令就是等同的：

cat filesed -n 'p' file

除了打印，還有以下操作，我們來(lái)說(shuō)常用的。

p 對(duì)匹配內(nèi)容進(jìn)行打印。
d 對(duì)匹配內(nèi)容進(jìn)行刪除。這個(gè)時(shí)候就要去掉-n參數(shù)了，想想為什么。
w 將匹配內(nèi)容寫(xiě)入到其他地方。

a,i,c等操作雖基本但使用少，不做介紹。我們依然拿一些命令來(lái)說(shuō)明。

sed -n '2,5 p' filesed    '2,5 d' filesed -n '2,5 w output.txt' file

我們來(lái)看一下sed命令都能干些啥，上點(diǎn)命令體驗(yàn)一下。

刪除所有#開(kāi)頭的行和空行。

sed -e 's/#.*//' -e '/^$/ d' file

最常用的，比如下面這個(gè)。

sed -n '2p' /etc/group

表示打印group文件中的第二行。

1、參數(shù)部分 比如 -n2、模式部分 比如'2p'3、文件，比如/etc/group

那么我想一次執(zhí)行多個(gè)命令，還不想寫(xiě)sed腳本文件怎么辦？那就需要加-e參數(shù)。

sed的操作單元是行。

替換模式

以上是sed命令的常用匹配模式，但它還有一個(gè)強(qiáng)大的替換模式，意思就是查找替換其中的某些值，并輸出結(jié)果。使用替換模式很少使用-n參數(shù)。

替換模式的參數(shù)有點(diǎn)多，但第一部分和第五部分都是可以省略的。替換后會(huì)將整個(gè)文本輸出出來(lái)。

前半部分用來(lái)匹配一些范圍，而后半部分執(zhí)行替換的動(dòng)作。

范圍

這個(gè)范圍和上面的范圍語(yǔ)法類(lèi)似?？聪旅娴睦?。

/sys/,+3 選擇出現(xiàn)sys字樣的行，以及后面的三行。
/^sys/,/mem/ 選擇以sys開(kāi)頭的行，和出現(xiàn)mem字樣行之間的數(shù)據(jù)。

具體命令為：

sed '/sys/,+3 s/a/b/g' filesed '/^sys/,/mem/s/a/b/g' file

命令

這里的命令是指s。也就是substitute的意思。

查找匹配

查找部分會(huì)找到要被替換的字符串。這部分可以接受純粹的字符串，也可以接受正則表達(dá)式?？聪旅娴睦印?/p>

a 查找范圍行中的字符串a。
[a,b,c] 從范圍行里查找字符串a(chǎn)或者b或者c。

命令類(lèi)似：

sed 's/a/b/g' filesed 's/[a,b,c]//g' file#這個(gè)命令我們下面解釋

替換

是時(shí)候把找出的字符串給替換掉了。本部分的內(nèi)容將替換查找匹配部分找到的內(nèi)容。

可惜的是，這部分不能使用正則。常用的就是精確替換。比如把a(bǔ)替換成b。

但也有高級(jí)功能。和java或者python的正則api類(lèi)似，sed的替換同樣有Matched Pattern的含義，同樣可以得到Group，不深究。常用的替位符，就是&。

**&**號(hào)，再重復(fù)一遍。當(dāng)它用在替換字符串中的時(shí)候，代表的是原始的查找匹配數(shù)據(jù)。

[&] 表明將查找到的數(shù)據(jù)使用[]包圍起來(lái)。
“&” 表明將查找的數(shù)據(jù)使用””包圍起來(lái)。

下面這條命令，將會(huì)把文件中的每一行，使用引號(hào)包圍起來(lái)。

sed 's/.*/"&"/' file

flag 參數(shù)

這些參數(shù)可以單個(gè)使用，也可以使用多個(gè)，僅介紹最常用的。

g 默認(rèn)只匹配行中第一次出現(xiàn)的內(nèi)容，加上g，就可以全文替換了。常用。
p 當(dāng)使用了-n參數(shù)，p將僅輸出匹配行內(nèi)容。
w 和上面的w模式類(lèi)似，但是它僅僅輸出有變換的行。
i 這個(gè)參數(shù)比較重要，表示忽略大小寫(xiě)。
e 表示將輸出的每一行，執(zhí)行一個(gè)命令。不建議使用，可以使用xargs配合完成這種功能。

看兩個(gè)命令的語(yǔ)法：

sed -n 's/a/b/gipw output.txt' filesed 's/^/ls -la/e' file

好玩

由于正則的關(guān)系，很多字符需要轉(zhuǎn)義。你會(huì)在腳本里做些很多\\，\*之類(lèi)的處理。你可以使用|^@!四個(gè)字符來(lái)替換\。
比如，下面五個(gè)命令是一樣的。

sed '/aaa/s/\/etc/\/usr/g' filesed '/aaa/s@/etc@/usr@g' filesed '/aaa/s^/etc^/usr^g' filesed '/aaa/s|/etc|/usr|g' filesed '/aaa/s!/etc!/usr!g' file

注意：前半部分的范圍是不能使用這種方式的。我習(xí)慣使用符號(hào)@。

其他

正則表達(dá)式

可以看到，正則表達(dá)式在命令行中無(wú)處不在。以下，僅做簡(jiǎn)要說(shuō)明。

^ 行首
$ 行尾
. 單個(gè)字符
***** 0個(gè)或者多個(gè)匹配
+ 1個(gè)或者多個(gè)匹配
? 0個(gè)或者1個(gè)匹配
{m} 前面的匹配重復(fù)m次
{m,n} 前面的匹配重復(fù)m到n次
** 轉(zhuǎn)義字符

[0-9] 匹配括號(hào)中的任何一個(gè)字符,or的作用
| or，或者
\b 匹配一個(gè)單詞。比如\blucky\b 只匹配單詞lucky

參數(shù)i

上面已經(jīng)簡(jiǎn)單介紹了參數(shù)i，它的作用是讓操作在原文件執(zhí)行。無(wú)論你執(zhí)行了啥，原始文件都將會(huì)被覆蓋。這是非常危險(xiǎn)的。
通過(guò)加入一個(gè)參數(shù)，可以將原文件做個(gè)備份。

sed -i.bak 's/a/b/' file

以上命令會(huì)對(duì)原file文件生效，并生成一個(gè)file.bak文件。強(qiáng)烈建議使用i參數(shù)同時(shí)指定bak文件。

表演一下

我們通過(guò)兩個(gè)命令，來(lái)稍微看下sed和其他命令組合起來(lái)的威力。

輸出長(zhǎng)度不小于50個(gè)字符的行

sed -n '/^.{50}/p'

統(tǒng)計(jì)文件中有每個(gè)單詞出現(xiàn)了多少次

sed 's/ /\n/g' file | sort | uniq -c

查找目錄中的py文件，刪掉所有行級(jí)注釋

find ./ -name "*.py" | xargs sed  -i.bak '/^[ ]*#/d'

查看第5-7行和10-13行

sed -n -e '5,7p' -e '10,13p' file

僅輸出ip地址

ip route show | sed -n '/src/p' | sed -e 's/  */ /g' | cut -d' ' -f9