• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            [轉]利用Winsock模擬HTTP的GET請求

              網絡爬蟲需要從指定的URL通過HTTP協議來獲得HTML文件信息,以此從一個URL爬到另一個URL。在Windows平臺上,這往往通過WinINet接口實現。
              但是,如果對HTTP協議熟悉的話,也可以通過Winsock接口實現。代碼如下。

              1 #pragma warning (disable:4996)
              2 
              3 #define DEFAULT_URL "http://www.google.com"
              4 
              5 BOOL WinsockStartup(BYTE highVer, BYTE lowVer)
              6 {
              7     WSADATA wsaData;
              8     return WSAStartup(MAKEWORD(highVer, lowVer), &wsaData) == 0;
              9 }
             10 
             11 int SendData(SOCKET s, char * data)
             12 {
             13     return send(s, data, strlen(data), 0);
             14 }
             15 
             16 void ParseTheURL(char * pszURL, char * pszHostName)
             17 {
             18     char * p, * pHostStart;
             19 
             20     p = strstr(pszURL, "http://");
             21     if (p && p == pszURL)
             22     {
             23         pHostStart = pszURL + 7;
             24     }
             25     else
             26     {
             27         pHostStart = pszURL;
             28     }
             29     p = strchr(pHostStart, '/');
             30     if (p)
             31     {
             32         memcpy(pszHostName, pHostStart, p - pHostStart);
             33     }
             34     else
             35     {
             36         memcpy(pszHostName, pHostStart, strlen(pHostStart));
             37     }
             38 }
             39 
             40 int _tmain()
             41 {
             42     int iRet = 0;
             43     DWORD dwError = 0;
             44     BOOL bOk = FALSE;
             45 
             46     char szURL[256= { 0 };                // 主機文件,即URL
             47     char szHostName[256= { 0 };            // 主機名
             48     char szPortName[] = "80";                // 端口號
             49 
             50     if (!WinsockStartup(22))
             51     {
             52         _tcprintf(TEXT("初始化Windows Sockets失敗!"));
             53         cin.getline(szURL, 255);
             54         return -1;
             55     }
             56 
             57     addrinfo aiHints = { 0 };
             58     addrinfo * aiList;
             59 
             60     aiHints.ai_family = AF_INET;
             61     aiHints.ai_socktype = SOCK_STREAM;
             62     aiHints.ai_protocol = IPPROTO_TCP;
             63 
             64     cout<<"輸入URL:";
             65     cin.getline(szURL, 255);
             66 
             67     if (strcmp(szURL, ""== 0)
             68     {
             69         strcpy(szURL, DEFAULT_URL);
             70         cout<<DEFAULT_URL<<endl;
             71     }
             72 
             73     ParseTheURL(szURL, szHostName);
             74 
             75     if (getaddrinfo(szHostName, szPortName, NULL, &aiList) != 0)
             76     {
             77         _tcprintf_s(TEXT("getaddrinfo失敗:%d"), WSAGetLastError());
             78         WSACleanup();
             79         cin.getline(szURL, 255);
             80         return -1;
             81     }
             82 
             83     SOCKET s;
             84     for (addrinfo * aiPtr = aiList; aiPtr != NULL; aiPtr = aiPtr->ai_next)
             85     {
             86         s = socket(aiList->ai_family, aiList->ai_socktype, aiList->ai_protocol);
             87         if (s == INVALID_SOCKET)
             88         {
             89             _tcprintf_s(TEXT("socket創建失敗:%d"), WSAGetLastError());
             90             continue;
             91         }
             92 
             93         if (connect(s, aiPtr->ai_addr, aiPtr->ai_addrlen) == SOCKET_ERROR)
             94         {
             95             closesocket(s);
             96             s = INVALID_SOCKET;
             97             _tcprintf_s(TEXT("connect失敗:%d"), WSAGetLastError());
             98             continue;
             99         }
            100         break;
            101     }
            102 
            103     freeaddrinfo(aiList);
            104 
            105     if (s == INVALID_SOCKET)
            106     {
            107         WSACleanup();
            108         cin.getline(szURL, 255);
            109         return -1;
            110     }
            111 
            112     char requestData[512= { 0 };
            113     sprintf(requestData, "GET %s HTTP/1.1\r\n", szURL);
            114     SendData(s, requestData);
            115     //SendData(s, "GET / HTTP/1.1\r\n");
            116     sprintf(requestData, "Host:%s\r\n", szHostName);
            117     SendData(s, requestData);
            118     SendData(s, "Accept: */*\r\n");
            119     SendData(s, "User-Agent: Mozilla/4.0(compatible; MSIE 5.00; Windows NT)\r\n");
            120     SendData(s, "Connection:Close\r\n");
            121     //SendData(s, "Connection:Keep-Alive\r\n");
            122     SendData(s, "\r\n");
            123     SendData(s, "\r\n");//最后要加空行
            124 
            125     BOOL done = FALSE;
            126     char buffer[1024= { 0 };
            127     int l, chars = 0;
            128 
            129     // 打印http響應的頭部
            130     while (!done)
            131     {
            132         l = recv(s, buffer, 10);
            133         if (l <= 0)
            134             done = TRUE;
            135         switch(*buffer)
            136         {
            137         case '\r':
            138             break;
            139         case '\n':
            140             if(chars == 0)
            141                 done = TRUE;
            142             chars = 0;            // 表示另起一行
            143             break;
            144         default:
            145             ++chars;
            146             break;
            147         }
            148         printf("%c",*buffer);
            149     }
            150 
            151     // 接收正文部分
            152     int sum = 0;
            153     do
            154     {
            155         l = recv(s, buffer, sizeof (buffer) - 10);
            156         if( l <= 0 )
            157             break;
            158         sum += l;
            159         *(buffer + l) = 0;
            160         printf(buffer);
            161     } while( l > 0 );
            162 
            163     //這里輸出正文部分大小,發現其實和響應消息頭部的Content-length大小是一樣的
            164     //這樣就可以檢查是否接受完畢
            165     printf("\n\n大小 = %d字節\n",sum);
            166 
            167     WSACleanup();
            168 
            169     cin.getline(szURL, 255);
            170     return 0;
            171 }

            posted on 2010-03-01 10:43 小虎無憂 閱讀(1843) 評論(0)  編輯 收藏 引用 所屬分類: Network

            <2009年7月>
            2829301234
            567891011
            12131415161718
            19202122232425
            2627282930311
            2345678

            導航

            統計

            常用鏈接

            留言簿

            隨筆分類

            隨筆檔案

            搜索

            最新評論

            閱讀排行榜

            評論排行榜

            91精品国产91久久久久久青草 | 亚洲国产精品嫩草影院久久 | 久久婷婷午色综合夜啪| 欧美日韩精品久久久久| 99久久无码一区人妻| 2021国产精品午夜久久| 久久久久国产精品| 伊人久久大香线蕉AV色婷婷色| 99久久伊人精品综合观看| 91精品国产91久久久久福利| 亚洲天堂久久久| 久久婷婷国产麻豆91天堂| 伊人久久精品无码av一区| 久久久久久国产精品美女| 国产精品久久久久久搜索| 久久久无码精品亚洲日韩京东传媒| 一本大道久久东京热无码AV| 国产精品久久久久久久久免费| 久久久久久久精品成人热色戒| 久久精品无码一区二区三区免费| 99久久久精品免费观看国产| 成人久久久观看免费毛片| 亚洲午夜久久久久久噜噜噜| 亚洲伊人久久成综合人影院 | 国产精品久久久亚洲| 97久久国产露脸精品国产| 日本国产精品久久| 狠狠色狠狠色综合久久| 久久国产AVJUST麻豆| 蜜桃麻豆www久久国产精品| 中文精品99久久国产 | 久久99国产精品久久久| 青青草原综合久久大伊人精品| 亚洲欧美伊人久久综合一区二区 | 亚洲国产精品综合久久网络 | 日韩精品久久久久久免费| 久久精品国产半推半就| 国产精品一区二区久久不卡| 国产韩国精品一区二区三区久久| 99久久精品午夜一区二区| 久久精品国产亚洲沈樵|