oyjpArt ACM/ICPC算法程序設計空間

目前這篇文章全文轉載自http://www.a5d.com/infoview/Article_1071.asp

為什么要進行shell編程

　　Linux系統中雖然有各種各樣的圖形界面工具，但shell仍然是一個非常靈活的工具。Shell不僅集合了大量命令，還是一門非常棒的編 程語言。借助shell，大量任務能實現自動化；shell特別擅長系統管理任務，尤其適合那些易用性、可維護性和便攜性比效率更重要的任務。

　　下面，讓我們一起來看看shell是如何工作的：

建立一個腳本

　　Linux中有許多種不同的shell，通常我們使用bash (bourne again shell) 進行shell編程，因為bash不僅免費（自由）且易于使用。本文提供的腳本都用bash（當然大多數情況下，這些腳本同樣可以在bash的前 輩，bourne shell中運行）執行。

　　如同其他語言一樣，我們可以使用任意一種文字編輯器，比如nedit、kedit、emacs、vi等來編寫shell腳本，它必須以如下行開始（必須放在文件的第一行）：



　　符號#!用來告訴系統執行該腳本的程序，本例使用/bin/sh。編輯完了，如果要執行該腳本，還必須使其可執行：



　　這樣輸入 ./filename 便可執行該腳本。

注釋

　　shell腳本中以# 開始的行表示注釋，直到一行的結束。我們真誠的建議你在腳本中使用注釋，這樣即便在相當長時間內沒有使用該腳本，你也能在短時間內明白該腳本的作用和工作原理；此外還有很重要的原因——有了注釋，更利于和別人分享你的腳本。

變量

　　在其它編程語言中，你必須使用變量。shell編程中，所有變量都由字符串組成，并且不需要聲明。要給一個變量賦值，你可以這么寫：



　　在變量名之前加一個$，就可以取出變量值：



　　挑個自己喜歡的編輯器，輸入以上內容，并保存為文件first，然后執行 chmod +x first 使其可執行，最后輸入 ./first 執行該腳本。其輸出結果如下：



　　有時候變量名可能會和其它文字混淆，比如：



　　上述腳本并不會輸出"this is the 2nd"，只會打印"this is the "；這是由于shell會去搜索變量numnd的值，而實際上這個變量此時并沒有值。可以使用花括號來告訴shell我們要打印的是num變量：



　　上述腳本的輸出結果為： this is the 2nd

　　有許多變量是系統自動設定的，在后面用到這些變量時我們再作說明。如果你需要處理數學表達式，那么得借助諸如 expr 的程序。

　　除了僅在腳本內有效的普通shell變量外，還有環境變量，即那些由export關鍵字處理過的變量。本文不討論環境變量，因為一般只在登錄腳本中使用環境變量。

Shell命令和流程控制

　　在shell腳本中可以使用三類命令：

1) Unix 命令:

　　在shell腳本中可以使用任意unix命令，不過實際上最為常用的通常是那些文件和文字操作相關的命令。下面介紹一些常用命令語法及功能：

　　echo "some text": 在屏幕上輸出信息

　　ls: 文件列表

　　wc –l file wc -w file wc -c file: 分別計算文件的行數（line）、單詞數（word）和字符數（character）

　　cp sourcefile destfile: 文件拷貝

　　mv oldname newname : 重命名文件或移動文件

　　rm file: 刪除文件

　　grep 'pattern' file: 在文件內搜索字符串或和正則表達式匹配的字符串

　　cut -b column file: 將指定范圍內的文件內容輸出到標準輸出設備（屏幕）上。比如：輸出每行第5至9個字符 cut -b5-9 file.txt，注意不要和cat命令混淆，這是兩個完全不同的命令

　　cat file.txt: 輸出文件內容到標準輸出設備（屏幕）上

　　file somefile: 取得文件somefile的文件類型

　　read var: 提示用戶輸入，并將輸入內容賦值給變量var

　　sort file.txt: 對file.txt文件所有行進行排序

　　uniq: 只輸出文件中內容不一致的行，如： sort file.txt | uniq

　　expr: 進行數學運算，如要進行2+3的運算，命令為: expr 2 "+" 3

　　find: 搜索文件，如根據文件名搜索：find . -name filename -print

　　tee: 將數據輸出到標準輸出設備(屏幕) 和文件，比如：somecommand | tee outfile

　　basename file: 返回不包含路徑的文件名，如： basename /bin/tux 會返回 tux

　　dirname file: 返回文件所在路徑，如：dirname /bin/tux 會返回 /bin

　　head file: 打印文本文件開頭幾行

　　tail file : 打印文本文件末尾幾行

sed: Sed是一個基本的查找替換程序。可以從標準輸入（如命令管道）讀入文本，并將結果輸出到標準輸出（屏幕）；該命令采用正則表達式進行搜索。不要和 shell中的通配符相混淆。比如將 ubuntu 替換為 Ubuntu ：cat text.file | sed 's/ubuntu/Ubuntu/' > newtext.file

　　awk: awk 用來提取文本文件中的字段。缺省的字段分割符是空格，可以使用 -F 指定其它分割符。cat file.txt | awk -F, '{print $1 "," $3 }'，這里我們使用 , 作為字段分割符，同時打印第一和第三個字段。如果該文件內容為 Adam Bor, 34, IndiaKerry Miller, 22, USA，則上述命令的輸出為：Adam Bor, IndiaKerry Miller, USA

2) 概念: 管道, 重定向和 backtick

　　盡管這些都不是系統命令，不過它們扮演著相當重要的角色。

　　管道 (|) 將一個命令的輸出作為另外一個命令的輸入。



　　上述命令會在file.txt中搜索包含有”hello”的行并計算行數，這里grep命令的輸出成了wc命令的輸入。當然您可以使用多個命令。

　　重定向：將命令的結果輸出到文件，而不是標準輸出（屏幕）。



反短斜線

　　使用反短斜線可以將一個命令的輸出作為另外一個命令的一個命令行參數。



　　上述命令可以查找過去24小時（-mtime –2則表示過去48小時）內修改過的文件。如果你想將所有查找到的文件打一個包，則可以使用以下腳本：



3) 流程控制

　　"if" 表達式如果條件為真則執行then后的部分：



　　大多數情況下，可以使用測試命令來對條件進行測試。比如可以比較字符串、判斷文件是否存在及是否可讀等等…通常用" [ ] "來表示條件測試，注意這里的空格很重要，要確保方括號前后的空格。


　　執行man test可以查看所有測試表達式可以比較和判斷的類型。

　　直接執行以下腳本：



　　變量$SHELL包含了登錄shell的名稱，我們拿它和/bin/bash進行比較。

快捷操作符

　　熟悉C語言的朋友可能會很喜歡下面的表達式：



這里的 && 就是一個快捷操作符，如果左邊的表達式為真則執行右邊的語句。你也可以把它看作邏輯運算的與操作。上述腳本表示如果/etc/shadow文件存在，則打 印” This computer uses shadow passwors”。同樣或操作(||)在shell編程中也可以用，例如：



　　該腳本首先判斷mailfolder是否可讀，如果可讀則打印該文件中的"From" 一行。如果不可讀則或操作生效，打印錯誤信息后腳本退出。這里有個問題，那就是我們必須有兩個命令：

　　-打印錯誤信息

　　-退出程序

　　我們使用花括號以匿名函數的形式將兩個命令放到一起作為一個命令使用。一般函數將在下文提及。不用與和或操作符，我們也可以用if表達式作任何事情，但是使用與或操作符會更便利很多。

　　case表達式可以用來匹配一個給定的字符串，而不是數字。



　　讓我們看一個例子，file命令可以辨別出一個給定文件的文件類型，如：file lf.gz，該命令輸出結果為：



　　我們利用這一點寫了一個叫做smartzip的腳本，該腳本可以自動解壓bzip2, gzip 和zip 類型的壓縮文件：


#!/bin/sh
ftype=`file "$1"`
case "$ftype" in
"$1: Zip archive"*)
　　unzip "$1" ;;
"$1: gzip compressed"*)
　　gunzip "$1" ;;
"$1: bzip2 compressed"*)
　　bunzip2 "$1" ;;
*) error "File $1 can not be uncompressed with smartzip";;
esac



　　您可能注意到我們在這里使用了一個特殊的變量$1。該變量包含了傳遞給該程序的第一個參數值。也就是說，當我們運行：


smartzip articles.zip
$1 就是字符串 articles.zip



　　select 表達式是一種bash的擴展應用，尤其擅長于交互式使用。用戶可以從一組不同的值中進行選擇。


select var in ... ; do
　break
done
.... now $var can be used ....
下面是一個例子：
#!/bin/sh
echo "What is your favourite OS?"
select var in "Linux" "Gnu Hurd" "Free BSD" "Other"; do
　　　　break
done
echo "You have selected $var"



　　下面是該腳本運行的結果：


What is your favourite OS?
1) Linux
2) Gnu Hurd
3) Free BSD
4) Other
#? 1
You have selected Linux



　　您也可以在shell中使用如下的loop表達式：


while ...; do
....
done



　　while-loop 將運行直到表達式測試為真。will run while the expression that we test for is true. 關鍵字"break" 用來跳出循環。而關鍵字”continue”用來不執行余下的部分而直接跳到下一個循環。

　　for-loop表達式查看一個字符串列表 (字符串用空格分隔) 然后將其賦給一個變量：


for var in ....; do
　....
done



　　在下面的例子中，將分別打印ABC到屏幕上：


#!/bin/sh
for var in A B C ; do
　echo "var is $var"
done



　　下面是一個更為有用的腳本showrpm，其功能是打印一些RPM包的統計信息：


#!/bin/sh
# list a content summary of a number of RPM packages
# USAGE: showrpm rpmfile1 rpmfile2 ...
# EXAMPLE: showrpm /cdrom/RedHat/RPMS/*.rpm
for rpmpackage in $*; do
　if [ -r "$rpmpackage" ];then
　　echo "=============== $rpmpackage =============="
　　rpm -qi -p $rpmpackage
　else
　　echo "ERROR: cannot read file $rpmpackage"
　fi
done



　　這里出現了第二個特殊的變量$*，該變量包含了所有輸入的命令行參數值。如果您運行showrpm openssh.rpm w3m.rpm webgrep.rpm

　　此時 $* 包含了 3 個字符串，即openssh.rpm, w3m.rpm and webgrep.rpm.

引號

　　在向程序傳遞任何參數之前，程序會擴展通配符和變量。這里所謂擴展的意思是程序會把通配符（比如*）替換成合適的文件名，它變量替換成變量 值。為了防止程序作這種替換，您可以使用引號：讓我們來看一個例子，假設在當前目錄下有一些文件，兩個jpg文件， mail.jpg 和tux.jpg。


#!/bin/sh
echo *.jpg



　　這將打印出"mail.jpg tux.jpg"的結果。

　　引號 (單引號和雙引號) 將防止這種通配符擴展：


#!/bin/sh
echo "*.jpg"
echo '*.jpg'



　　這將打印"*.jpg" 兩次。

　　單引號更嚴格一些。它可以防止任何變量擴展。雙引號可以防止通配符擴展但允許變量擴展。


#!/bin/sh
echo $SHELL
echo "$SHELL"
echo '$SHELL'



　　運行結果為：


/bin/bash
/bin/bash
$SHELL



　　最后，還有一種防止這種擴展的方法，那就是使用轉義字符——反斜桿：


echo *.jpg
echo $SHELL



　　這將輸出：


*.jpg
$SHELL
Here documents



　　當要將幾行文字傳遞給一個命令時，here documents（譯者注：目前還沒有見到過對該詞適合的翻譯）一種不錯的方法。對每個腳本寫一段幫助性的文字是很有用的，此時如果我們四有那個 here documents就不必用echo函數一行行輸出。 一個 "Here document" 以 << 開頭，后面接上一個字符串，這個字符串還必須出現在here document的末尾。下面是一個例子，在該例子中，我們對多個文件進行重命名，并且使用here documents打印幫助：


#!/bin/sh
# we have less than 3 arguments. Print the help text:
if [ $# -lt 3 ] ; then
cat < ren -- renames a number of files using sed regular expressions

USAGE: ren 'regexp' 'replacement' files...

EXAMPLE: rename all *.HTM files in *.html:
　ren 'HTM$' 'html' *.HTM

HELP
　exit 0
fi
OLD="$1"
NEW="$2"
# The shift command removes one argument from the list of
# command line arguments.
shift
shift
# $* contains now all the files:
for file in $*; do
　　if [ -f "$file" ] ; then
　　　newfile=`echo "$file" | sed "s/${OLD}/${NEW}/g"`
　　　if [ -f "$newfile" ]; then
　　　　echo "ERROR: $newfile exists already"
　　　else
　　　　echo "renaming $file to $newfile ..."
　　　　mv "$file" "$newfile"
　　　fi
　　fi
done



　　這是一個復雜一些的例子。讓我們詳細討論一下。第一個if表達式判斷輸入命令行參數是否小于3個 (特殊變量$# 表示包含參數的個數) 。如果輸入參數小于3個，則將幫助文字傳遞給cat命令，然后由cat命令將其打印在屏幕上。打印幫助文字后程序退出。如果輸入參數等于或大于3個，我們 就將第一個參數賦值給變量OLD，第二個參數賦值給變量NEW。下一步，我們使用shift命令將第一個和第二個參數從參數列表中刪除，這樣原來的第三個 參數就成為參數列表$*的第一個參數。然后我們開始循環，命令行參數列表被一個接一個地被賦值給變量$file。接著我們判斷該文件是否存在，如果存在則 通過sed命令搜索和替換來產生新的文件名。然后將反短斜線內命令結果賦值給newfile。這樣我們就達到了我們的目的：得到了舊文件名和新文件名。然 后使用mv命令進行重命名。

函數

　　如果您寫了一些稍微復雜一些的程序，您就會發現在程序中可能在幾個地方使用了相同的代碼，并且您也會發現，如果我們使用了函數，會方便很多。一個函數是這個樣子的：


functionname()
{
# inside the body $1 is the first argument given to the function
# $2 the second ...
body
}



　　您需要在每個程序的開始對函數進行聲明。

　　下面是一個叫做xtitlebar的腳本，使用這個腳本您可以改變終端窗口的名稱。這里使用了一個叫做help的函數。正如您可以看到的那樣，這個定義的函數被使用了兩次。


#!/bin/sh
# vim: set sw=4 ts=4 et:

help()
{
　　cat < xtitlebar -- change the name of an xterm, gnome-terminal or kde konsole

USAGE: xtitlebar [-h] "string_for_titelbar"

OPTIONS: -h help text

EXAMPLE: xtitlebar "cvs"

HELP
　　exit 0
}

# in case of error or if -h is given we call the function help:
[ -z "$1" ] && help
[ "$1" = "-h" ] && help

# send the escape sequence to change the xterm titelbar:
echo -e "33]0;$107"
#



　　在腳本中提供幫助是一種很好的編程習慣，這樣方便其他用戶（和您）使用和理解腳本。

命令行參數

　　我們已經見過$* 和 $1, $2 ... $9 等特殊變量，這些特殊變量包含了用戶從命令行輸入的參數。迄今為止，我們僅僅了解了一些簡單的命令行語法（比如一些強制性的參數和查看幫助的-h選項）。 但是在編寫更復雜的程序時，您可能會發現您需要更多的自定義的選項。通常的慣例是在所有可選的參數之前加一個減號，后面再加上參數值 (比如文件名)。

　　有好多方法可以實現對輸入參數的分析，但是下面的使用case表達式的例子無遺是一個不錯的方法。


#!/bin/sh
help()
{
　cat < This is a generic command line parser demo.
USAGE EXAMPLE: cmdparser -l hello -f -- -somefile1 somefile2
HELP
　exit 0
}

while [ -n "$1" ]; do
case $1 in
　　-h) help;shift 1;; # function help is called
　　-f) opt_f=1;shift 1;; # variable opt_f is set
　　-l) opt_l=$2;shift 2;; # -l takes an argument -> shift by 2
　　--) shift;break;; # end of options
　　-*) echo "error: no such option $1. -h for help";exit 1;;
　　*) break;;
esac
done

echo "opt_f is $opt_f"
echo "opt_l is $opt_l"
echo "first arg is $1"
echo "2nd arg is $2"



　　您可以這樣運行該腳本：

cmdparser -l hello -f -- -somefile1 somefile2


　　返回的結果是：


opt_f is 1
opt_l is hello
first arg is -somefile1
2nd arg is somefile2



　　這個腳本是如何工作的呢？腳本首先在所有輸入命令行參數中進行循環，將輸入參數與case表達式進行比較，如果匹配則設置一個變量并且移除該參數。根據unix系統的慣例，首先輸入的應該是包含減號的參數。

實例

　　一般編程步驟

　　現在我們來討論編寫一個腳本的一般步驟。任何優秀的腳本都應該具有幫助和輸入參數。并且寫一個偽腳本（framework.sh），該腳本包含了大多數腳本都需要的框架結構，是一個非常不錯的主意。這時候，在寫一個新的腳本時我們只需要執行一下copy命令：

cp framework.sh myscript


　　然后再插入自己的函數。

　　讓我們再看兩個例子：

　　二進制到十進制的轉換

　　腳本 b2d 將二進制數 (比如 1101) 轉換為相應的十進制數。這也是一個用expr命令進行數學運算的例子：


#!/bin/sh
# vim: set sw=4 ts=4 et:
help()
{
　cat < b2h -- convert binary to decimal

USAGE: b2h [-h] binarynum

OPTIONS: -h help text

EXAMPLE: b2h 111010
will return 58
HELP
　exit 0
}

error()
{
　　# print an error and exit
　　echo "$1"
　　exit 1
}

lastchar()
{
　　# return the last character of a string in $rval
　　if [ -z "$1" ]; then
　　　　# empty string
　　　　rval=""
　　　　return
　　fi
　　# wc puts some space behind the output this is why we need sed:
　　numofchar=`echo -n "$1" | wc -c | sed 's/ //g' `
　　# now cut out the last char
　　rval=`echo -n "$1" | cut -b $numofchar`
}

chop()
{
　　# remove the last character in string and return it in $rval
　　if [ -z "$1" ]; then
　　　　# empty string
　　　　rval=""
　　　　return
　　fi
　　# wc puts some space behind the output this is why we need sed:
　　numofchar=`echo -n "$1" | wc -c | sed 's/ //g' `
　　if [ "$numofchar" = "1" ]; then
　　　　# only one char in string
　　　　rval=""
　　　　return
　　fi
　　numofcharminus1=`expr $numofchar "-" 1`
　　# now cut all but the last char:
　　rval=`echo -n "$1" | cut -b 0-${numofcharminus1}`
}


while [ -n "$1" ]; do
case $1 in
　　-h) help;shift 1;; # function help is called
　　--) shift;break;; # end of options
　　-*) error "error: no such option $1. -h for help";;
　　*) break;;
esac
done

# The main program
sum=0
weight=1
# one arg must be given:
[ -z "$1" ] && help
binnum="$1"
binnumorig="$1"

while [ -n "$binnum" ]; do
　　lastchar "$binnum"
　　if [ "$rval" = "1" ]; then
　　　　sum=`expr "$weight" "+" "$sum"`
　　fi
　　# remove the last position in $binnum
　　chop "$binnum"
　　binnum="$rval"
　　weight=`expr "$weight" "*" 2`
done

echo "binary $binnumorig is decimal $sum"
#



　　該腳本使用的算法是利用十進制和二進制數權值 (1,2,4,8,16,..)，比如二進制"10"可以這樣轉換成十進制：

0 * 1 + 1 * 2 = 2


　　為了得到單個的二進制數我們是用了lastchar 函數。該函數使用wc –c計算字符個數，然后使用cut命令取出末尾一個字符。Chop函數的功能則是移除最后一個字符。

　　文件循環程序

　　或許您是想將所有發出的郵件保存到一個文件中的人們中的一員，但是在過了幾個月以后，這個文件可能會變得很大以至于使對該文件的訪問速度變 慢。下面的腳本rotatefile 可以解決這個問題。這個腳本可以重命名郵件保存文件（假設為outmail）為outmail.1，而對于outmail.1就變成了outmail.2 等等等等...


#!/bin/sh
# vim: set sw=4 ts=4 et:
ver="0.1"
help()
{
　　cat < rotatefile -- rotate the file name

USAGE: rotatefile [-h] filename

OPTIONS: -h help text

EXAMPLE: rotatefile out
This will e.g rename out.2 to out.3, out.1 to out.2, out to out.1
and create an empty out-file

The max number is 10

version $ver
HELP
　　exit 0
}

error()
{
　　echo "$1"
　　exit 1
}
while [ -n "$1" ]; do
case $1 in
　　-h) help;shift 1;;
　　--) break;;
　　-*) echo "error: no such option $1. -h for help";exit 1;;
　　*) break;;
esac
done

# input check:
if [ -z "$1" ] ; then
error "ERROR: you must specify a file, use -h for help"
fi
filen="$1"
# rename any .1 , .2 etc file:
for n in 9 8 7 6 5 4 3 2 1; do
　　if [ -f "$filen.$n" ]; then
　　　　p=`expr $n + 1`
　　　　echo "mv $filen.$n $filen.$p"
　　　　mv $filen.$n $filen.$p
　　fi
done
# rename the original file:
if [ -f "$filen" ]; then
　　echo "mv $filen $filen.1"
　　mv $filen $filen.1
fi
echo touch $filen
touch $filen



　　這個腳本是如何工作的呢？在檢測用戶提供了一個文件名以后，我們進行一個9到1的循環。文件9被命名為10，文件8重命名為9等等。循環完成之后，我們將原始文件命名為文件1同時建立一個與原始文件同名的空文件。

調試

　　最簡單的調試命令當然是使用echo命令。您可以使用echo在任何懷疑出錯的地方打印任何變量值。這也是絕大多數的shell程序員要花費80%的時間來調試程序的原因。Shell程序的好處在于不需要重新編譯，插入一個echo命令也不需要多少時間。

　　shell也有一個真實的調試模式。如果在腳本"strangescript" 中有錯誤，您可以這樣來進行調試：

sh -x strangescript


　　這將執行該腳本并顯示所有變量的值。

　　shell還有一個不需要執行腳本只是檢查語法的模式。可以這樣使用：

sh -n your_script


　　這將返回所有語法錯誤。

　　我們希望您現在可以開始寫您自己的shell腳本，希望您玩得開心。