• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            [轉]利用Winsock模擬HTTP的GET請求

              網絡爬蟲需要從指定的URL通過HTTP協議來獲得HTML文件信息,以此從一個URL爬到另一個URL。在Windows平臺上,這往往通過WinINet接口實現。
              但是,如果對HTTP協議熟悉的話,也可以通過Winsock接口實現。代碼如下。

              1 #pragma warning (disable:4996)
              2 
              3 #define DEFAULT_URL "http://www.google.com"
              4 
              5 BOOL WinsockStartup(BYTE highVer, BYTE lowVer)
              6 {
              7     WSADATA wsaData;
              8     return WSAStartup(MAKEWORD(highVer, lowVer), &wsaData) == 0;
              9 }
             10 
             11 int SendData(SOCKET s, char * data)
             12 {
             13     return send(s, data, strlen(data), 0);
             14 }
             15 
             16 void ParseTheURL(char * pszURL, char * pszHostName)
             17 {
             18     char * p, * pHostStart;
             19 
             20     p = strstr(pszURL, "http://");
             21     if (p && p == pszURL)
             22     {
             23         pHostStart = pszURL + 7;
             24     }
             25     else
             26     {
             27         pHostStart = pszURL;
             28     }
             29     p = strchr(pHostStart, '/');
             30     if (p)
             31     {
             32         memcpy(pszHostName, pHostStart, p - pHostStart);
             33     }
             34     else
             35     {
             36         memcpy(pszHostName, pHostStart, strlen(pHostStart));
             37     }
             38 }
             39 
             40 int _tmain()
             41 {
             42     int iRet = 0;
             43     DWORD dwError = 0;
             44     BOOL bOk = FALSE;
             45 
             46     char szURL[256= { 0 };                // 主機文件,即URL
             47     char szHostName[256= { 0 };            // 主機名
             48     char szPortName[] = "80";                // 端口號
             49 
             50     if (!WinsockStartup(22))
             51     {
             52         _tcprintf(TEXT("初始化Windows Sockets失敗!"));
             53         cin.getline(szURL, 255);
             54         return -1;
             55     }
             56 
             57     addrinfo aiHints = { 0 };
             58     addrinfo * aiList;
             59 
             60     aiHints.ai_family = AF_INET;
             61     aiHints.ai_socktype = SOCK_STREAM;
             62     aiHints.ai_protocol = IPPROTO_TCP;
             63 
             64     cout<<"輸入URL:";
             65     cin.getline(szURL, 255);
             66 
             67     if (strcmp(szURL, ""== 0)
             68     {
             69         strcpy(szURL, DEFAULT_URL);
             70         cout<<DEFAULT_URL<<endl;
             71     }
             72 
             73     ParseTheURL(szURL, szHostName);
             74 
             75     if (getaddrinfo(szHostName, szPortName, NULL, &aiList) != 0)
             76     {
             77         _tcprintf_s(TEXT("getaddrinfo失敗:%d"), WSAGetLastError());
             78         WSACleanup();
             79         cin.getline(szURL, 255);
             80         return -1;
             81     }
             82 
             83     SOCKET s;
             84     for (addrinfo * aiPtr = aiList; aiPtr != NULL; aiPtr = aiPtr->ai_next)
             85     {
             86         s = socket(aiList->ai_family, aiList->ai_socktype, aiList->ai_protocol);
             87         if (s == INVALID_SOCKET)
             88         {
             89             _tcprintf_s(TEXT("socket創建失敗:%d"), WSAGetLastError());
             90             continue;
             91         }
             92 
             93         if (connect(s, aiPtr->ai_addr, aiPtr->ai_addrlen) == SOCKET_ERROR)
             94         {
             95             closesocket(s);
             96             s = INVALID_SOCKET;
             97             _tcprintf_s(TEXT("connect失敗:%d"), WSAGetLastError());
             98             continue;
             99         }
            100         break;
            101     }
            102 
            103     freeaddrinfo(aiList);
            104 
            105     if (s == INVALID_SOCKET)
            106     {
            107         WSACleanup();
            108         cin.getline(szURL, 255);
            109         return -1;
            110     }
            111 
            112     char requestData[512= { 0 };
            113     sprintf(requestData, "GET %s HTTP/1.1\r\n", szURL);
            114     SendData(s, requestData);
            115     //SendData(s, "GET / HTTP/1.1\r\n");
            116     sprintf(requestData, "Host:%s\r\n", szHostName);
            117     SendData(s, requestData);
            118     SendData(s, "Accept: */*\r\n");
            119     SendData(s, "User-Agent: Mozilla/4.0(compatible; MSIE 5.00; Windows NT)\r\n");
            120     SendData(s, "Connection:Close\r\n");
            121     //SendData(s, "Connection:Keep-Alive\r\n");
            122     SendData(s, "\r\n");
            123     SendData(s, "\r\n");//最后要加空行
            124 
            125     BOOL done = FALSE;
            126     char buffer[1024= { 0 };
            127     int l, chars = 0;
            128 
            129     // 打印http響應的頭部
            130     while (!done)
            131     {
            132         l = recv(s, buffer, 10);
            133         if (l <= 0)
            134             done = TRUE;
            135         switch(*buffer)
            136         {
            137         case '\r':
            138             break;
            139         case '\n':
            140             if(chars == 0)
            141                 done = TRUE;
            142             chars = 0;            // 表示另起一行
            143             break;
            144         default:
            145             ++chars;
            146             break;
            147         }
            148         printf("%c",*buffer);
            149     }
            150 
            151     // 接收正文部分
            152     int sum = 0;
            153     do
            154     {
            155         l = recv(s, buffer, sizeof (buffer) - 10);
            156         if( l <= 0 )
            157             break;
            158         sum += l;
            159         *(buffer + l) = 0;
            160         printf(buffer);
            161     } while( l > 0 );
            162 
            163     //這里輸出正文部分大小,發現其實和響應消息頭部的Content-length大小是一樣的
            164     //這樣就可以檢查是否接受完畢
            165     printf("\n\n大小 = %d字節\n",sum);
            166 
            167     WSACleanup();
            168 
            169     cin.getline(szURL, 255);
            170     return 0;
            171 }

            posted on 2010-03-01 10:43 小虎無憂 閱讀(1843) 評論(0)  編輯 收藏 引用 所屬分類: Network

            <2009年11月>
            25262728293031
            1234567
            891011121314
            15161718192021
            22232425262728
            293012345

            導航

            統計

            常用鏈接

            留言簿

            隨筆分類

            隨筆檔案

            搜索

            最新評論

            閱讀排行榜

            評論排行榜

            亚洲国产香蕉人人爽成AV片久久| 国产aⅴ激情无码久久| 久久精品国产清自在天天线| 久久亚洲精品无码VA大香大香| 精品久久久久久无码专区 | 久久综合亚洲欧美成人| 久久99精品久久久久久| 久久天天躁狠狠躁夜夜2020| 亚洲AV日韩AV天堂久久| 久久93精品国产91久久综合| 色综合久久综合中文综合网| 久久久久综合国产欧美一区二区| 欧洲人妻丰满av无码久久不卡| 国产精品午夜久久| 久久久久久亚洲Av无码精品专口| 欧美久久久久久精选9999| 久久99国产精品99久久| 久久久久se色偷偷亚洲精品av| 国产精品成人精品久久久| 久久精品中文闷骚内射| 欧美与黑人午夜性猛交久久久| 久久精品国产精品国产精品污| 97精品依人久久久大香线蕉97| 午夜精品久久久内射近拍高清 | 久久婷婷成人综合色综合| 欧美无乱码久久久免费午夜一区二区三区中文字幕 | 欧美亚洲国产精品久久高清| 久久精品国产亚洲Aⅴ蜜臀色欲 | 国内精品伊人久久久影院| 狠狠人妻久久久久久综合蜜桃| 久久99国产精品尤物| 久久精品无码专区免费青青| 精品国产乱码久久久久软件 | 久久婷婷综合中文字幕| 久久国产热精品波多野结衣AV| 2021国产精品久久精品| 亚洲欧洲精品成人久久曰影片| 青青久久精品国产免费看| 日韩久久久久中文字幕人妻| 欧美伊人久久大香线蕉综合69 | 久久九九有精品国产23百花影院|