Posted on 2010-05-24 14:25
S.l.e!ep.¢% 閱讀(3539)
評論(0) 編輯 收藏 引用 所屬分類:
CURL
curl的應用方式,一是可以直接通過命令行工具,另一種是利用libcurl庫做上層的開發。本篇主要總結一下命令行工具的http相關的應用,
尤其是http下載方面的;下一篇再講基于libcurl庫的開發。
?
??
???
???
curl的命令行工具功能非常強大,這些數據交互的功能基本上都是通過URL方式進行的,我們先來看看curl對多個URL的靈活操作,這些規則使我們的
批處理需求應用起來非常方便。
???
???
1、用{}表示多個URL
??? 如 http://site.{one,two,three}.com,
只要在{}中寫上不同的部分,就可以表示3個URL了。
???
???
2、用[]表示多個URL
??? 如 ftp://ftp.numericals.com/file[1-100].txt,ftp://ftp.numericals.com/file[001-100].txt,ftp://ftp.letters.com/file[a-z].txt,
[]中表示按數字或字母的順序排列。
??? 還能表示不連續的排列,如
http://www.numericals.com/file[1-100:10].txt,
???
???
3、結合起來使用
??? 如 http://any.org/archive[1996-1999]/vol[1-4]/part{a,b,c}.html。
???
???
???
curl命令行工具的基本語句為:curl [options] [URL...],即 curl [選項]
[下載地址]。因此,如果你想下載百度的首頁,最簡單的方法啟動cmd,進入curl安裝目錄,輸入命令:curl http://www.baidu.com,回車,你的輸出窗口將立即出現百度首頁
的html數據。
???
對于所有的布爾型option,基本上--option表示支持這個選項,--no-option表示禁用這個選項。下面總結幾個比較有用的
options。
???
???
1、-o/--output <file>
???
這個基本上要算最常用的選項了,用于將下載的數據保存到某個文件中。如 curl -o baidu.html http://www.baidu.com則將百度首頁保存到baidu.html
文件中了。下載過程中標準輸出還會顯示下載的統計信息,比如進度、下載字節數、下載速度等。如果指定輸出為"-",則下載數據會輸出到標準輸出。
???
如果輸出的文件是一個多級目錄的話,則要配合--create-dirs選項,--create-dirs將自動創建設置的輸出目錄。
???
如果希望保存到本地的文件名和服務器上的相同,就可以直接用-O選項(大寫O),而省去指定本地文件名。
???
如果下載多個數據文件,可以使用上面提到的多URL規則。下載文件名也可以批量自定義,就是使用"#"。可以將"#"加到文件名當中,這樣實際文件名中
的#將被多個URL中的當前字符串代替,如
curl http://{site,host}.host[1-5].com
-o
"#1_#2",#1將被"site"或"host"代替,#2將被1-5之間的數字代替,也就是被當前被處理的URL中的字符串代替。
???
另外下載數據的時候,可以加個"-#"選項,用一個進度條來代替文本表示進度。
???
???
2、-c/--cookie-jar <file name> 和
-b/--cookie <name=data>
???
這是兩個操作cookie的選項,很多服務器是需要cookie信息的。用前一個選項可以指定一個文件,將其他文件中的cookie或者從服務器得到的
cookie寫到文件中;后一個選項則用來向服務器發送cookie信息,可以用"name=data"的形式,也可以直接跟一個保存cookie的文件
名。
???
??? 3、-x/--proxy
<proxyhost[:port]>
???
該選項為http指定代理及端口,如果不指定端口,默認為1080。如 curl -x 201.36.208.19:3128
http://curl.haxx.se/。
???
??? 4、-u/--user
<user:password> 和 -U/--proxy-user
<user:password>
???
登錄某些頁面或ftp需要先進行認證,輸入用戶名和密碼。curl的這個選項可以直接處理這類操作,用指定的賬號和密碼進行登錄認證。
???
后面的選項指定代理的用戶名和密碼,這樣便可以直接用這個代理訪問網頁了,如? curl -U
user:password -x 201.36.208.19:3128 http://curl.haxx.se/。
???
???
5、-A/--user-agent <agent
string>
???
該選項可以指定客戶端類型,服務器通過該選項判斷用戶應用的平臺及瀏覽器信息。如 curl -A "Mozilla/4.0
(compatible; MSIE 6.0; Windows NT 5.0)" http://www.clientinfo.com,
表示告訴服務器,客戶端是運行在Windows 2000系統上的IE6.0。
???
???
6、-d/--data <data>
???
該選項用來以POST方式向http服務器發送特定數據,最常用的就是提交表單。如 curl -d
"user=username&password=111" http://www.login.com,
表示用賬號username和密碼111向站點發送登錄申請。其中多個數據段可以用"&"進行連接一起發送;如果數據前面加上符號"@",則數據
來源為后面指定的文件,如
curl -d password=@D:\pw.txthttp://www.login.com。
???
???
7、-C/--continue-at <offset>
???
改選項提供斷點續傳功能,與-o選項配合使用。如 curl -c -O
http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3。
如果指定offset,則從offset的位置開始續傳。如果未指定offset,或者直接用"-C
-",則curl會自己分析該從什么位置開始續傳。
???
???
8、-r/--range <range>
???
該選項指定下載字節的范圍,常應用于分塊下載文件。range的表示方式有多種,如100-500,則指定從100開始的400個字節數據;-500表示
最后的500個字節;5000-表示從第5000個字節開始的所有字節;另外還可以同時指定多個字節塊,中間用","分開。如
??? curl -r
0-1024000 -o new_divide_1.mp3
http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3
&
??? curl -r
1024001-2048000 -o new_divide_2.mp3
http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3
&
??? curl -r
2048001- -o new_divide_3.mp3
http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3
???
這樣就會將目標mp3文件分塊下載為3個文件,然后可以用dos的copy命令:copy new_divide_1.mp3/b +
new_divide_2.mp3/b + new_divide_3.mp3/b
new_divide.mp3即可將3個分塊文件合并為一個完整的mp3文件。
???
???
9、-w/--write-out <format>
???
該選項格式化輸出一些用戶操作的數據信息,用到的格式化輸出符除了"\n","\r","\t"這些常見轉義符外,還包括"@"和"%"。其
中"@filename"表示輸出filename文件中的數據,"@-"表示輸出用戶寫入標準輸入的數據;"%"標識符后面跟上定義的關鍵字,
則可以輸出對應的curl數據,常用的關鍵字有:
??? http_code ——
上次操作返回的響應碼;
??? time_total
—— 上次操作耗時,單位為秒;
??? time_connect
—— TCP連接遠程主機的耗時,單位為秒;
???
time_pretransfer —— 文件真正開始傳輸之前交互耗時,單位為秒,可能主要包括一些命令處理和協議分析的耗時;
???
time_starttransfer ——
文件的第一個字節開始傳輸之前的耗時,單位為秒,包括time_pretransfer和服務器計算結果的時間;
???
size_download —— 下載的總字節數;
??? size_upload
—— 上傳的總字節數;
??? size_request
—— 發送http請求的總字節數;
???
speed_download —— curl成功下載的平均下載速度;
??? speed_upload
—— curl成功上傳的平均上傳速度;
??? 舉例:curl -o
page.html -s -w %{time_connect}:%{time_starttransfer}:%{time_total}
http://curl.haxx.se/,其中-s表示安靜模式,即略去所有
狀態信息。
???
???
10、--connect-timeout <seconds> 和
-m/--max-time <seconds>
???
前者表示允許的連接的最長耗時,單位為秒;后者表示允許的整個操作的最長耗時,單位為秒,這個選項對于控制一個批處理操作的時長非常有用。
???
???
11、--limit-rate <speed> 、
-Y/--speed-limit <speed> 和
-y/--speed-time <time>
??? --limit-rate
<speed>指定最大的數據傳輸率,單位為bytes/s,也可以用'k'或'K'表示kb/s,'m'或'M'表示mb/s,'g'或
'G'表示gb/s,所給的speed為平均傳輸率,短時間峰值可能會超過此值;
-Y/--speed-limit
<speed>指定最小傳輸率,單位為bytes/s,如果小于speed值,則傳輸中止,如此時-y選項沒有被設置,默認time為
30;-y/--speed-time
<time>指定-Y選項的有效時間段,如果-Y選項沒有被設置,默認為1。
?
???
12、--max-filesize <bytes>
???
該選項指定所要下載的文件的最大長度,如果超過bytes值,則下載并不開始,curl返回退出碼63。
???
??? 13、--retry
<num> 、 --retry-delay
<seconds> 和 --retry-max-time
<seconds>
???
當傳輸過程中出現錯誤,如超時、FTP 5xx返回碼或者HTTP
5xx返回碼,curl會進行按照設置進行重試,這幾個選項都與重試有關。--retry
<num>設置重試次數,--retry-delay
<seconds>設置兩次重試的間隔時間,--retry-max-time
<seconds>設置兩次重試間隔的最長時間。默認情況下,curl不進行重試;如果重試,第一次間隔1秒,之后每次都間隔上一次的2倍時
間,直到間隔時間達到10分鐘,之后的重試都將采用10分鐘間隔。如果這3個選項的值被重新設置,則執行設置值。
???
???
14、-T/--upload-file <file>
???
該選項是上傳命令,如向http服務器上傳一個文件:curl -T D:\new_divide.mp3 http://www.uploadserver.com/path/;
向一個ftp服務器上傳文件:curl
-T D:\new_divide.mp3 -u user:password ftp://upload_site:port/path/。
?
???
curl定義了一組"EXIT
CODES",用來標識在出現錯誤時的相關信息,目前范圍從1-83,具體信息可以查閱curl庫自帶的文檔。這些退出碼對于我們分析錯誤及原因有很大幫
助。
???
???
???
以上簡單介紹了一下利用curl命令行工具進行一些簡單的http和ftp應用,大家可以試著多用一下,會慢慢發現curl的強大功能,有很多獨特的功能
用起來非常簡單方便。