• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            jake1036

            larbin源代碼分析<三> url類分析

            larbin源代碼分析<三> url類分析

              一 分析utils包中的url類
                  該類代表實際中的一個url,成員變量主要有 ,char * file ,char * host , uint16_t port  , int8_t depth, char * cookie 
                  還有一個public 屬性的 in_addr 表示一個ipv4的地址。
                  成員函數中主要有一些,比如構造函數,返回url,添加cookie等操作。
              二 實例代碼如下
                  

            // Larbin
            // Sebastien Ailleret
            // 15-11-99 -> 14-03-02

            /* This class describes an URL */

            #ifndef URL_H
            #define URL_H

            #include 
            <netinet/in.h>
            #include 
            <sys/types.h>
            #include 
            <sys/socket.h>
            #include 
            <stdlib.h>

            #include 
            "types.h"

            bool fileNormalize (char *file);

            class url {
             
            private:
              
            char *host;
              
            char *file;
              uint16_t port; 
            // the order of variables is important for physical size
              int8_t depth;
              
            /* parse the url */
              
            void parse (char *s);
              
            /** parse a file with base */
              
            void parseWithBase (char *u, url *base);
              
            /* normalize file name */
              
            bool normalize (char *file);
              
            /* Does this url starts with a protocol name */
              
            bool isProtocol (char *s);
              
            /* constructor used by giveBase */
              url (
            char *host, uint port, char *file);

             
            public:
              
            /* Constructor : Parses an url (u is deleted) */
              url (
            char *u, int8_t depth, url *base);

              
            /* constructor used by input */
              url (
            char *line, int8_t depth);

              
            /* Constructor : read the url from a file (cf serialize) */
              url (
            char *line);

              
            /* Destructor */
              
            ~url ();

              
            /* inet addr (once calculated) */
              
            struct in_addr addr;

              
            /* Is it a valid url ? */
              
            bool isValid ();

              
            /* print an URL */
              
            void print ();

              
            /* return the host */
              inline 
            char *getHost () return host; }

              
            /* return the port */
              inline 
            uint getPort () return port; }

              
            /* return the file */
              inline 
            char *getFile () return file; }

              
            /** Depth in the Site */
              inline int8_t getDepth () 
            return depth; }

              
            /* Set depth to max if we are at an entry point in the site
               * try to find the ip addr
               * answer false if forbidden by robots.txt, true otherwise 
            */

              
            bool initOK (url *from);

              
            /** return the base of the url
               * give means that you have to delete the string yourself
               
            */

              url 
            *giveBase ();

              
            /** return a char * representation of the url
               * give means that you have to delete the string yourself
               
            */

              
            char *giveUrl ();

              
            /** write the url in a buffer
               * buf must be at least of size maxUrlSize
               * returns the size of what has been written (not including '\0')
               
            */

              
            int writeUrl (char *buf);

              
            /* serialize the url for the Persistent Fifo */
              
            char *serialize ();

              
            /* very thread unsafe serialisation in a static buffer */
              
            char *getUrl();

              
            /* return a hashcode for the host of this url */
              
            uint hostHashCode ();

              
            /* return a hashcode for this url */
              
            uint hashCode ();

            #ifdef URL_TAGS
              
            /* tag associated to this url */
              
            uint tag;
            #endif // URL_TAGS

            #ifdef COOKIES
              
            /* cookies associated with this page */
              
            char *cookie;
              
            void addCookie(char *header);
            #else // COOKIES
              inline 
            void addCookie(char *header) {}
            #endif // COOKIES
            }
            ;

            #endif // URL_H

             
            三 代碼分析
                 url中的實現類主要是,創建url,其中創建規則如下:
                 http://www.hach.com/r/0343/ttt.html
                則host為www.hach.com   , file 為/r/0343/ttt.html
               url的構造函數即根據 上述規則構建 url類。 若是含有base url 則新的url的file為 base->file + 新url 的file。
               (2)另外url的hash函數即是 利用了 file 字符串和 host字符串。
                       /* return a hashcode for this url */
                   uint url::hashCode () {
                     unsigned int h=port;
                     unsigned int i=0;
                     while (host[i] != 0) {
                         h = 31*h + host[i];
                         i++;
                      }
                       i=0;
                    while (file[i] != 0) {
                         h = 31*h + file[i];
                         i++;
                     }
                   return h % hashSize;
                   }
               (3) cookie的處理函數如下
                     若addCookie(char * head) 中的head字符串是以 set-cookie: 開始的,則將head之后的12個字符
                     添加到cookie變量中。
               
             
            四綜上: 
              url 類中的成員變量,char * file ,char * host , port , cookie 能夠表示一個url。
              并且url類中提供了解析函數,使用戶可以根據從網頁中爬取的url構造url類對象。






             

            posted on 2011-06-11 21:42 kahn 閱讀(871) 評論(0)  編輯 收藏 引用

            亚洲国产精品久久电影欧美| 久久er99热精品一区二区| 青青草原1769久久免费播放| 99久久99久久精品国产片| 色悠久久久久久久综合网| 国产成人久久精品一区二区三区 | 亚洲AV日韩精品久久久久| 国产人久久人人人人爽| 久久久久国产亚洲AV麻豆| 亚洲精品蜜桃久久久久久| 国内精品久久久久久久亚洲| 一本色综合网久久| 久久99精品国产麻豆婷婷| 无码日韩人妻精品久久蜜桃| 久久久久无码精品国产app| 久久夜色精品国产网站| 亚洲国产成人精品91久久久 | 一本一道久久a久久精品综合| 天天躁日日躁狠狠久久| 久久午夜综合久久| 国产精品久久久久无码av| 久久国产免费直播| 久久夜色撩人精品国产| 久久亚洲国产欧洲精品一| 麻豆成人久久精品二区三区免费| 日本高清无卡码一区二区久久| 久久99热国产这有精品| 久久精品国产亚洲av高清漫画 | 99久久无码一区人妻| 久久久无码精品亚洲日韩蜜臀浪潮 | 久久精品国产亚洲一区二区三区| 国产综合久久久久久鬼色| 国产69精品久久久久9999APGF| 亚洲国产成人久久综合区| 青春久久| 7777精品伊人久久久大香线蕉| 国产精品亚洲美女久久久| 国产精品久久久99| 国产精品久久久久乳精品爆| 国内精品免费久久影院| 久久亚洲国产精品123区|