• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            [轉]利用Winsock模擬HTTP的GET請求

              網絡爬蟲需要從指定的URL通過HTTP協議來獲得HTML文件信息,以此從一個URL爬到另一個URL。在Windows平臺上,這往往通過WinINet接口實現。
              但是,如果對HTTP協議熟悉的話,也可以通過Winsock接口實現。代碼如下。

              1 #pragma warning (disable:4996)
              2 
              3 #define DEFAULT_URL "http://www.google.com"
              4 
              5 BOOL WinsockStartup(BYTE highVer, BYTE lowVer)
              6 {
              7     WSADATA wsaData;
              8     return WSAStartup(MAKEWORD(highVer, lowVer), &wsaData) == 0;
              9 }
             10 
             11 int SendData(SOCKET s, char * data)
             12 {
             13     return send(s, data, strlen(data), 0);
             14 }
             15 
             16 void ParseTheURL(char * pszURL, char * pszHostName)
             17 {
             18     char * p, * pHostStart;
             19 
             20     p = strstr(pszURL, "http://");
             21     if (p && p == pszURL)
             22     {
             23         pHostStart = pszURL + 7;
             24     }
             25     else
             26     {
             27         pHostStart = pszURL;
             28     }
             29     p = strchr(pHostStart, '/');
             30     if (p)
             31     {
             32         memcpy(pszHostName, pHostStart, p - pHostStart);
             33     }
             34     else
             35     {
             36         memcpy(pszHostName, pHostStart, strlen(pHostStart));
             37     }
             38 }
             39 
             40 int _tmain()
             41 {
             42     int iRet = 0;
             43     DWORD dwError = 0;
             44     BOOL bOk = FALSE;
             45 
             46     char szURL[256= { 0 };                // 主機文件,即URL
             47     char szHostName[256= { 0 };            // 主機名
             48     char szPortName[] = "80";                // 端口號
             49 
             50     if (!WinsockStartup(22))
             51     {
             52         _tcprintf(TEXT("初始化Windows Sockets失敗!"));
             53         cin.getline(szURL, 255);
             54         return -1;
             55     }
             56 
             57     addrinfo aiHints = { 0 };
             58     addrinfo * aiList;
             59 
             60     aiHints.ai_family = AF_INET;
             61     aiHints.ai_socktype = SOCK_STREAM;
             62     aiHints.ai_protocol = IPPROTO_TCP;
             63 
             64     cout<<"輸入URL:";
             65     cin.getline(szURL, 255);
             66 
             67     if (strcmp(szURL, ""== 0)
             68     {
             69         strcpy(szURL, DEFAULT_URL);
             70         cout<<DEFAULT_URL<<endl;
             71     }
             72 
             73     ParseTheURL(szURL, szHostName);
             74 
             75     if (getaddrinfo(szHostName, szPortName, NULL, &aiList) != 0)
             76     {
             77         _tcprintf_s(TEXT("getaddrinfo失敗:%d"), WSAGetLastError());
             78         WSACleanup();
             79         cin.getline(szURL, 255);
             80         return -1;
             81     }
             82 
             83     SOCKET s;
             84     for (addrinfo * aiPtr = aiList; aiPtr != NULL; aiPtr = aiPtr->ai_next)
             85     {
             86         s = socket(aiList->ai_family, aiList->ai_socktype, aiList->ai_protocol);
             87         if (s == INVALID_SOCKET)
             88         {
             89             _tcprintf_s(TEXT("socket創建失敗:%d"), WSAGetLastError());
             90             continue;
             91         }
             92 
             93         if (connect(s, aiPtr->ai_addr, aiPtr->ai_addrlen) == SOCKET_ERROR)
             94         {
             95             closesocket(s);
             96             s = INVALID_SOCKET;
             97             _tcprintf_s(TEXT("connect失敗:%d"), WSAGetLastError());
             98             continue;
             99         }
            100         break;
            101     }
            102 
            103     freeaddrinfo(aiList);
            104 
            105     if (s == INVALID_SOCKET)
            106     {
            107         WSACleanup();
            108         cin.getline(szURL, 255);
            109         return -1;
            110     }
            111 
            112     char requestData[512= { 0 };
            113     sprintf(requestData, "GET %s HTTP/1.1\r\n", szURL);
            114     SendData(s, requestData);
            115     //SendData(s, "GET / HTTP/1.1\r\n");
            116     sprintf(requestData, "Host:%s\r\n", szHostName);
            117     SendData(s, requestData);
            118     SendData(s, "Accept: */*\r\n");
            119     SendData(s, "User-Agent: Mozilla/4.0(compatible; MSIE 5.00; Windows NT)\r\n");
            120     SendData(s, "Connection:Close\r\n");
            121     //SendData(s, "Connection:Keep-Alive\r\n");
            122     SendData(s, "\r\n");
            123     SendData(s, "\r\n");//最后要加空行
            124 
            125     BOOL done = FALSE;
            126     char buffer[1024= { 0 };
            127     int l, chars = 0;
            128 
            129     // 打印http響應的頭部
            130     while (!done)
            131     {
            132         l = recv(s, buffer, 10);
            133         if (l <= 0)
            134             done = TRUE;
            135         switch(*buffer)
            136         {
            137         case '\r':
            138             break;
            139         case '\n':
            140             if(chars == 0)
            141                 done = TRUE;
            142             chars = 0;            // 表示另起一行
            143             break;
            144         default:
            145             ++chars;
            146             break;
            147         }
            148         printf("%c",*buffer);
            149     }
            150 
            151     // 接收正文部分
            152     int sum = 0;
            153     do
            154     {
            155         l = recv(s, buffer, sizeof (buffer) - 10);
            156         if( l <= 0 )
            157             break;
            158         sum += l;
            159         *(buffer + l) = 0;
            160         printf(buffer);
            161     } while( l > 0 );
            162 
            163     //這里輸出正文部分大小,發現其實和響應消息頭部的Content-length大小是一樣的
            164     //這樣就可以檢查是否接受完畢
            165     printf("\n\n大小 = %d字節\n",sum);
            166 
            167     WSACleanup();
            168 
            169     cin.getline(szURL, 255);
            170     return 0;
            171 }

            posted on 2010-03-01 10:43 小虎無憂 閱讀(1846) 評論(0)  編輯 收藏 引用 所屬分類: Network

            <2010年3月>
            28123456
            78910111213
            14151617181920
            21222324252627
            28293031123
            45678910

            導航

            統計

            常用鏈接

            留言簿

            隨筆分類

            隨筆檔案

            搜索

            最新評論

            閱讀排行榜

            評論排行榜

            久久香综合精品久久伊人| 久久久久久久91精品免费观看| 久久久久亚洲AV成人片| av国内精品久久久久影院| 国产精品久久久久久影院 | 亚洲国产精品成人久久蜜臀| 亚洲欧美成人久久综合中文网 | 国产精品久久久天天影视| 欧美亚洲国产精品久久蜜芽| 韩国三级中文字幕hd久久精品| 久久久久亚洲av成人无码电影| 99久久国产亚洲综合精品| 国产成人久久AV免费| 女同久久| 91视频国产91久久久| 精品无码久久久久久久久久 | 久久99国产精品久久99小说| 日韩人妻无码精品久久免费一| 国产福利电影一区二区三区久久久久成人精品综合 | 久久精品人人做人人爽电影蜜月| 97久久精品人人澡人人爽| 亚洲精品无码久久久久AV麻豆| 精品久久久噜噜噜久久久| 久久午夜福利电影| 久久66热人妻偷产精品9| 色99久久久久高潮综合影院 | 久久国产热这里只有精品| 久久精品毛片免费观看| 尹人香蕉久久99天天拍| 99久久精品免费看国产一区二区三区 | 久久亚洲国产最新网站| 久久狠狠色狠狠色综合| 伊人久久精品无码二区麻豆| 狠狠精品干练久久久无码中文字幕| 久久人爽人人爽人人片AV | 久久国产精品波多野结衣AV| 国产精品无码久久久久久| 18禁黄久久久AAA片| 久久久人妻精品无码一区| 国内精品久久久久久久亚洲| 精品久久久久久成人AV|