• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            [轉]利用Winsock模擬HTTP的GET請求

              網絡爬蟲需要從指定的URL通過HTTP協議來獲得HTML文件信息,以此從一個URL爬到另一個URL。在Windows平臺上,這往往通過WinINet接口實現。
              但是,如果對HTTP協議熟悉的話,也可以通過Winsock接口實現。代碼如下。

              1 #pragma warning (disable:4996)
              2 
              3 #define DEFAULT_URL "http://www.google.com"
              4 
              5 BOOL WinsockStartup(BYTE highVer, BYTE lowVer)
              6 {
              7     WSADATA wsaData;
              8     return WSAStartup(MAKEWORD(highVer, lowVer), &wsaData) == 0;
              9 }
             10 
             11 int SendData(SOCKET s, char * data)
             12 {
             13     return send(s, data, strlen(data), 0);
             14 }
             15 
             16 void ParseTheURL(char * pszURL, char * pszHostName)
             17 {
             18     char * p, * pHostStart;
             19 
             20     p = strstr(pszURL, "http://");
             21     if (p && p == pszURL)
             22     {
             23         pHostStart = pszURL + 7;
             24     }
             25     else
             26     {
             27         pHostStart = pszURL;
             28     }
             29     p = strchr(pHostStart, '/');
             30     if (p)
             31     {
             32         memcpy(pszHostName, pHostStart, p - pHostStart);
             33     }
             34     else
             35     {
             36         memcpy(pszHostName, pHostStart, strlen(pHostStart));
             37     }
             38 }
             39 
             40 int _tmain()
             41 {
             42     int iRet = 0;
             43     DWORD dwError = 0;
             44     BOOL bOk = FALSE;
             45 
             46     char szURL[256= { 0 };                // 主機文件,即URL
             47     char szHostName[256= { 0 };            // 主機名
             48     char szPortName[] = "80";                // 端口號
             49 
             50     if (!WinsockStartup(22))
             51     {
             52         _tcprintf(TEXT("初始化Windows Sockets失敗!"));
             53         cin.getline(szURL, 255);
             54         return -1;
             55     }
             56 
             57     addrinfo aiHints = { 0 };
             58     addrinfo * aiList;
             59 
             60     aiHints.ai_family = AF_INET;
             61     aiHints.ai_socktype = SOCK_STREAM;
             62     aiHints.ai_protocol = IPPROTO_TCP;
             63 
             64     cout<<"輸入URL:";
             65     cin.getline(szURL, 255);
             66 
             67     if (strcmp(szURL, ""== 0)
             68     {
             69         strcpy(szURL, DEFAULT_URL);
             70         cout<<DEFAULT_URL<<endl;
             71     }
             72 
             73     ParseTheURL(szURL, szHostName);
             74 
             75     if (getaddrinfo(szHostName, szPortName, NULL, &aiList) != 0)
             76     {
             77         _tcprintf_s(TEXT("getaddrinfo失敗:%d"), WSAGetLastError());
             78         WSACleanup();
             79         cin.getline(szURL, 255);
             80         return -1;
             81     }
             82 
             83     SOCKET s;
             84     for (addrinfo * aiPtr = aiList; aiPtr != NULL; aiPtr = aiPtr->ai_next)
             85     {
             86         s = socket(aiList->ai_family, aiList->ai_socktype, aiList->ai_protocol);
             87         if (s == INVALID_SOCKET)
             88         {
             89             _tcprintf_s(TEXT("socket創建失敗:%d"), WSAGetLastError());
             90             continue;
             91         }
             92 
             93         if (connect(s, aiPtr->ai_addr, aiPtr->ai_addrlen) == SOCKET_ERROR)
             94         {
             95             closesocket(s);
             96             s = INVALID_SOCKET;
             97             _tcprintf_s(TEXT("connect失敗:%d"), WSAGetLastError());
             98             continue;
             99         }
            100         break;
            101     }
            102 
            103     freeaddrinfo(aiList);
            104 
            105     if (s == INVALID_SOCKET)
            106     {
            107         WSACleanup();
            108         cin.getline(szURL, 255);
            109         return -1;
            110     }
            111 
            112     char requestData[512= { 0 };
            113     sprintf(requestData, "GET %s HTTP/1.1\r\n", szURL);
            114     SendData(s, requestData);
            115     //SendData(s, "GET / HTTP/1.1\r\n");
            116     sprintf(requestData, "Host:%s\r\n", szHostName);
            117     SendData(s, requestData);
            118     SendData(s, "Accept: */*\r\n");
            119     SendData(s, "User-Agent: Mozilla/4.0(compatible; MSIE 5.00; Windows NT)\r\n");
            120     SendData(s, "Connection:Close\r\n");
            121     //SendData(s, "Connection:Keep-Alive\r\n");
            122     SendData(s, "\r\n");
            123     SendData(s, "\r\n");//最后要加空行
            124 
            125     BOOL done = FALSE;
            126     char buffer[1024= { 0 };
            127     int l, chars = 0;
            128 
            129     // 打印http響應的頭部
            130     while (!done)
            131     {
            132         l = recv(s, buffer, 10);
            133         if (l <= 0)
            134             done = TRUE;
            135         switch(*buffer)
            136         {
            137         case '\r':
            138             break;
            139         case '\n':
            140             if(chars == 0)
            141                 done = TRUE;
            142             chars = 0;            // 表示另起一行
            143             break;
            144         default:
            145             ++chars;
            146             break;
            147         }
            148         printf("%c",*buffer);
            149     }
            150 
            151     // 接收正文部分
            152     int sum = 0;
            153     do
            154     {
            155         l = recv(s, buffer, sizeof (buffer) - 10);
            156         if( l <= 0 )
            157             break;
            158         sum += l;
            159         *(buffer + l) = 0;
            160         printf(buffer);
            161     } while( l > 0 );
            162 
            163     //這里輸出正文部分大小,發現其實和響應消息頭部的Content-length大小是一樣的
            164     //這樣就可以檢查是否接受完畢
            165     printf("\n\n大小 = %d字節\n",sum);
            166 
            167     WSACleanup();
            168 
            169     cin.getline(szURL, 255);
            170     return 0;
            171 }

            posted on 2010-03-01 10:43 小虎無憂 閱讀(1856) 評論(0)  編輯 收藏 引用 所屬分類: Network

            <2025年6月>
            25262728293031
            1234567
            891011121314
            15161718192021
            22232425262728
            293012345

            導航

            統計

            常用鏈接

            留言簿

            隨筆分類

            隨筆檔案

            搜索

            最新評論

            閱讀排行榜

            評論排行榜

            色欲综合久久躁天天躁| 久久亚洲AV成人无码软件| 国产成人综合久久精品红| 久久夜色精品国产亚洲| 99久久免费国产精精品| 99久久精品免费国产大片| 久久www免费人成精品香蕉| 久久久亚洲AV波多野结衣| 热re99久久精品国99热| 国产999精品久久久久久| 久久99精品久久久久久野外| 一本一本久久a久久综合精品蜜桃| 人妻精品久久无码区| 久久乐国产综合亚洲精品| 99久久国产综合精品网成人影院| 一本一本久久A久久综合精品| 国产精品内射久久久久欢欢| 精品久久久中文字幕人妻 | 热久久视久久精品18| a级毛片无码兔费真人久久| 久久精品国产一区| 精品蜜臀久久久久99网站| 国产精品一区二区久久国产| 久久久久无码精品国产| 久久伊人精品一区二区三区| 久久涩综合| 久久久无码精品亚洲日韩京东传媒 | 国产精品gz久久久| 亚洲精品97久久中文字幕无码| 热久久最新网站获取| 久久精品中文闷骚内射| 亚洲精品无码久久一线| 免费精品99久久国产综合精品| 成人久久综合网| 大香伊人久久精品一区二区| 久久精品黄AA片一区二区三区| 青草影院天堂男人久久| 久久天天婷婷五月俺也去| 国产成人无码精品久久久久免费| 久久精品国产男包| 久久国产免费观看精品|