sort命令

uniq命令

tr命令

cut命令

sphit命令

paste命令

ecal命令

正則表達式

sort命令

sort命令---以行為單位對文件內容進行排序，也可以根據不同的數據類型來排序
比較原則是從首字符向后，依次按ASCII碼值進行比較，最后將他們按升序輸出。

語法格式：
sort [選項] 參數

先是對首字母進行排序，如果首字母相同則對第二個字母進行計較，以此類推。

加上-n的選項，實現數值大小的排序

加上-r的選項實現反向排序，可以和-n一起使用

加上-u的選項實現去重，重復出現的數值不再出現。

使用sort -t指定分隔符，-k指定字段為3 -n按照數值排序 指定文件，實現用戶的uid號排序

cat file | sort 選項

常用選項：
-n：按照數字進行排序
-r：反向排序
-u：等同于uniq，表示相同的數據僅顯示一行
-t：指定字段分隔符，默認使用[Tab]鍵分隔
-k：指定排序字段
-o <輸出文件>：將排序后的結果轉存至指定文件
-f：忽略大小寫，會將小寫字母都轉換為大寫字母來進行比較
-b：忽略每行前面的空格

sort -n testfile2

sort -t ':' -k 3 -n /etc/passwd

du -a | sort -nr -o du.txt

uniq命令

uniq命令---用于報告或者忽略文件中連續的重復行，常與 sort 命令結合使用

語法格式：
uniq [選項] 參數
cat file | uniq 選項

先使用sort進行排序，接管道符號uniq進行去重

對重復出現的數字進行統計

加上-d和-u分別輸出連續重復的行內容和不連續的行內容。

常用選項：
-c：進行計數，并刪除文件中重復出現的行
-d：僅顯示連續的重復行
-u：僅顯示出現一次的行

uniq testfile3

sort -n testfile3 | uniq -c

tr 命令

tr命令---常用來對來自標準輸入的字符進行替換、壓縮和刪除

語法格式：
tr [選項] [參數]

常用選項：
-c：保留字符集1的字符，其他的字符（包括換行符\n）用字符集2替換
-d：刪除所有屬于字符集1的字符
-s：將重復出現的字符串壓縮為一個字符；用字符集2 替換 字符集1
-t：字符集2 替換 字符集1，不加選項同結果。?? ?

echo "abcefg" | tr 'a-z' 'A-Z'

實現英文字母大小寫的互換

設置第一個字符a-d，后面的字符為0，則輸出的結果就會除了a-d后面的字符包括換行符都回變成0

當我們加上反斜杠，換行符也就不會被替代掉了。

參數：
字符集1：指定要轉換或刪除的原字符集。當執行轉換操作時，必須使用參數“字符集2”指定轉換的目標字符集。但執行刪除操作時，不需要參數“字符集2”；
字符集2：指定要轉換成的目標字符集。

echo -e "abc\ncabcdab" | tr -c "ab\n" "0"

echo -e "abc\ncabcdab" | tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

刪除指定的內容

echo "thissss is a test linnnnnnne." | tr -s 'sn'

刪除空行?
echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
cat testfile5 | tr -s "\n"

把路徑變量中的冒號":"，替換成換行符"\n"
echo $PATH | tr -s ":" "\n"
echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"

刪除Windows文件“造成”的'^M'字符：
cat abc.txt | tr -s "\r" "\n" > new_file
或
cat abc.txt | tr -d "\r" > new_file
Linux中遇到換行符("\n")會進行回車+換行的操作，回車符反而只會作為控制字符("^M")顯示，不發生回車的操作。而windows中要回車符+換行符("\r\n")才會回車+換行，缺少一個控制符或者順序不對都不能正確的另起一行。
cat -A abc.txt

cat -v abc.txt

dos2unix abc.txt

數組排序

echo ${array[*]} | tr ' ' '\n' | sort -n > file

a=0
for i in $(cat file)
do
array[$a]=$i
let a++
#array+=($i)
done

cut 命令

cut命令---顯示行中的指定部分，刪除文件中指定字段
語法格式：
cut ?參數
cat file | cut 選項

常用選項：
-f ：通過指定哪一個字段進行提取。cut命令使用“TAB”作為默認的字段分隔符。
-d ：“TAB”是默認的分隔符，使用此選項可以更改為其他的分隔符。
--complement ：此選項用于排除所指定的字段。

--output-delimiter ：更改輸出內容的分隔符。

cut -d ':' -f 1 /etc/passwd
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7?? ??? ??? ?#以-分隔的開始字段和結束字段指定字段的范圍

grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2?? ??? ?#排除第二個字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/passwd?? ??? ??? ??? ?#輸出分隔符使用空格分隔

i=123456789
echo $i | cut -b 1-3?? ??? ?#起始位置從1開始
123

echo ${i:0:3}?? ??? ??? ??? ?#起始位置從0開始
expr substr $i 1 3?? ??? ??? ?#起始位置從1開始

split 命令

split命令---linux下將一個大的文件拆分成若干小文件
語法格式：
split 選項 參數 原始文件 拆分后文件名前綴

常用選項：
–l ：以行數拆分
–b ：以大小拆分

split -l 50 /etc/passwd passwd?? ??? ?

#以50行對文件進行拆分，最后一個文件的行數沒有50行以實際行數進行分配
?

如何將一個10G文件分割為10個1G的文件 ? ? ? ?split -b 1G -d 原文件 ?目標文件名前綴
如何將一個100行文件分割為10個10行的文件 ? ?split -l 10 -d 原文件 ?目標文件名前綴

paste命令

paste命令---用于合并文件的列

paste [-s][-d <間隔字符>] 文件...

常用選項：
-d<間隔字符> ：用指定的間隔字符取代制表符
-s ：把多行內容合并為一行進行顯示

文件替換。

eval命令

命令字前加上eval時，shell會在執行命令之前掃描它兩次。eval命令將首先會先掃描命令行進行所有的置換，然后再執行該命令。該命令適用于那些一次掃描無法實現其功能的變量。該命令對變量進行兩次掃描。
示例1：
echo "hello world" > file
myfile="cat file"
echo $myfile
eval $myfile

示例2：
vim test.sh
#!/bin/bash
eval echo \$$#

./test.sh 1 2 3 4

得4

示例3：
a=100
b=a
eval echo \$$b

100
eval $b=50
echo $a

50

正則表達式

正則表達式---通常用于判斷語句中，用來檢查某一字符串是否滿足某一格式

正則表達式是由普通字符與元字符組成
普通字符包括大小寫字母、數字、標點符號及一些其他符號
元字符是指在正則表達式中具有特殊意義的專用字符，可以用來規定其前導字符（即位于元字符前面的字符或表達式）在目標對象中的出現模式

基礎正則表達式常見元字符：（支持的工具：grep、egrep、sed、awk）
\ ：轉義字符，用于取消特殊符號的含義，例：\!、\n、\$等
^ ：匹配字符串開始的位置，例：^a、^the、^#、^[a-z]?
$ ：匹配字符串結束的位置，例：word$、^$匹配空行
. ：匹配除\n之外的任意的一個字符，例：go.d、g..d
* ：匹配前面子表達式0次或者多次，例：goo*d、go.*d
[list] ：匹配list列表中的一個字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位數字
[^list] ：匹配任意非list列表中的一個字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小寫字母
\{n\} ：匹配前面的子表達式n次，例：go\{2\}d、'[0-9]\{2\}'匹配兩位數字
\{n,\} ：匹配前面的子表達式不少于n次，例：go\{2,\}d、'[0-9]\{2,\}'匹配兩位及兩位以上數字
\{n,m\} ：匹配前面的子表達式n到m次，例：go\{2,3\}d、'[0-9]\{2,3\}'匹配兩位到三位數字
注：egrep、awk使用{n}、{n,}、{n,m}匹配時“{}”前不用加“\”
\w ：匹配包括下劃線的任何單詞字符。\W ：匹配任何非單詞字符。等價于“[^A-Za-z0-9_]”。
\d ：匹配一個數字字符。\D ：匹配一個非數字字符。等價于 [^0-9]。?? ??? ?grep -P
\s ：空白符。\S ：非空白符

擴展正則表達式元字符：（支持的工具：egrep、awk）grep -E ? sed -r
+ ：匹配前面子表達式1次以上，例：go+d，將匹配至少一個o，如god、good、goood等
? ：匹配前面子表達式0次或者1次，例：go?d，將匹配gd或god
() ：將括號中的字符串作為一個整體，例：g(oo)+d，將匹配oo整體1次以上，如good、gooood等
| ：以或的方式匹配字符串，例：g(oo|la)d，將匹配good或者glad

正則表達式匹配E-mail地址
用戶名@ ：^([a-zA-Z0-9_\-\.\+]+)@
子域名 ：([a-zA-Z0-9_\-\.]+)
.頂級域名(字符串長度一般在2到5) ：\.([a-zA-Z]{2,5})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt