青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

jake1036

larbin源代碼分析<三> url類分析

larbin源代碼分析<三> url類分析

  一 分析utils包中的url類
      該類代表實際中的一個url,成員變量主要有 ,char * file ,char * host , uint16_t port  , int8_t depth, char * cookie 
      還有一個public 屬性的 in_addr 表示一個ipv4的地址。
      成員函數中主要有一些,比如構造函數,返回url,添加cookie等操作。
  二 實例代碼如下
      

// Larbin
// Sebastien Ailleret
// 15-11-99 -> 14-03-02

/* This class describes an URL */

#ifndef URL_H
#define URL_H

#include 
<netinet/in.h>
#include 
<sys/types.h>
#include 
<sys/socket.h>
#include 
<stdlib.h>

#include 
"types.h"

bool fileNormalize (char *file);

class url {
 
private:
  
char *host;
  
char *file;
  uint16_t port; 
// the order of variables is important for physical size
  int8_t depth;
  
/* parse the url */
  
void parse (char *s);
  
/** parse a file with base */
  
void parseWithBase (char *u, url *base);
  
/* normalize file name */
  
bool normalize (char *file);
  
/* Does this url starts with a protocol name */
  
bool isProtocol (char *s);
  
/* constructor used by giveBase */
  url (
char *host, uint port, char *file);

 
public:
  
/* Constructor : Parses an url (u is deleted) */
  url (
char *u, int8_t depth, url *base);

  
/* constructor used by input */
  url (
char *line, int8_t depth);

  
/* Constructor : read the url from a file (cf serialize) */
  url (
char *line);

  
/* Destructor */
  
~url ();

  
/* inet addr (once calculated) */
  
struct in_addr addr;

  
/* Is it a valid url ? */
  
bool isValid ();

  
/* print an URL */
  
void print ();

  
/* return the host */
  inline 
char *getHost () return host; }

  
/* return the port */
  inline 
uint getPort () return port; }

  
/* return the file */
  inline 
char *getFile () return file; }

  
/** Depth in the Site */
  inline int8_t getDepth () 
return depth; }

  
/* Set depth to max if we are at an entry point in the site
   * try to find the ip addr
   * answer false if forbidden by robots.txt, true otherwise 
*/

  
bool initOK (url *from);

  
/** return the base of the url
   * give means that you have to delete the string yourself
   
*/

  url 
*giveBase ();

  
/** return a char * representation of the url
   * give means that you have to delete the string yourself
   
*/

  
char *giveUrl ();

  
/** write the url in a buffer
   * buf must be at least of size maxUrlSize
   * returns the size of what has been written (not including '\0')
   
*/

  
int writeUrl (char *buf);

  
/* serialize the url for the Persistent Fifo */
  
char *serialize ();

  
/* very thread unsafe serialisation in a static buffer */
  
char *getUrl();

  
/* return a hashcode for the host of this url */
  
uint hostHashCode ();

  
/* return a hashcode for this url */
  
uint hashCode ();

#ifdef URL_TAGS
  
/* tag associated to this url */
  
uint tag;
#endif // URL_TAGS

#ifdef COOKIES
  
/* cookies associated with this page */
  
char *cookie;
  
void addCookie(char *header);
#else // COOKIES
  inline 
void addCookie(char *header) {}
#endif // COOKIES
}
;

#endif // URL_H

 
三 代碼分析
     url中的實現類主要是,創建url,其中創建規則如下:
     http://www.hach.com/r/0343/ttt.html
    則host為www.hach.com   , file 為/r/0343/ttt.html
   url的構造函數即根據 上述規則構建 url類。 若是含有base url 則新的url的file為 base->file + 新url 的file。
   (2)另外url的hash函數即是 利用了 file 字符串和 host字符串。
           /* return a hashcode for this url */
       uint url::hashCode () {
         unsigned int h=port;
         unsigned int i=0;
         while (host[i] != 0) {
             h = 31*h + host[i];
             i++;
          }
           i=0;
        while (file[i] != 0) {
             h = 31*h + file[i];
             i++;
         }
       return h % hashSize;
       }
   (3) cookie的處理函數如下
         若addCookie(char * head) 中的head字符串是以 set-cookie: 開始的,則將head之后的12個字符
         添加到cookie變量中。
   
 
四綜上: 
  url 類中的成員變量,char * file ,char * host , port , cookie 能夠表示一個url。
  并且url類中提供了解析函數,使用戶可以根據從網頁中爬取的url構造url類對象。






 

posted on 2011-06-11 21:42 kahn 閱讀(888) 評論(0)  編輯 收藏 引用


只有注冊用戶登錄后才能發表評論。
網站導航: 博客園   IT新聞   BlogJava   博問   Chat2DB   管理


青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            在线亚洲欧美| 亚洲激情第一区| 韩曰欧美视频免费观看| 亚洲高清色综合| 亚洲一区二区三区精品视频| 久久手机免费观看| 野花国产精品入口| 免费在线一区二区| 国产亚洲欧美一区二区三区| av成人毛片| 欧美jizz19hd性欧美| 亚洲欧美视频在线观看视频| 欧美日韩午夜视频在线观看| 亚洲精选久久| 欧美成年人视频网站| 欧美黄色网络| 亚洲乱亚洲高清| 一区二区三区 在线观看视频| 欧美成人午夜| 亚洲国内精品| 亚洲午夜成aⅴ人片| 欧美日韩综合视频网址| 日韩写真视频在线观看| 欧美激情视频免费观看| 久久蜜桃精品| 伊人成年综合电影网| 久久久久久夜| 久久九九免费视频| 国产一区99| 亚洲国产精彩中文乱码av在线播放| 亚洲人成免费| 欧美激情一二三区| 欧美午夜精品久久久久久人妖| 在线午夜精品| 久久综合久色欧美综合狠狠 | 欧美一区二区三区四区高清| 国产精品久久久久久久第一福利| 亚洲一区二区三区四区中文| 久久久国产午夜精品| 午夜精品久久久久久久白皮肤| 亚洲资源av| 黄色精品一区二区| 亚洲天堂av在线免费观看| 亚洲黄色成人网| 久久9热精品视频| 在线不卡欧美| 亚洲欧美日韩中文视频| 中文在线不卡| 欧美一进一出视频| 亚洲私人影院在线观看| 欧美大学生性色视频| 久久综合免费视频影院| 欧美韩国一区| 免费日韩成人| 国产精品毛片| 男人天堂欧美日韩| 国产一区二区三区四区| 亚洲在线电影| 亚洲国内精品| 美国成人毛片| 午夜精品国产更新| 国产精品久久久久久久久免费| 亚洲精品久久久久久久久| 国产精品久久久久久久免费软件 | 欧美伊人久久久久久午夜久久久久 | 欧美视频中文字幕| 亚洲日产国产精品| 一本久久综合亚洲鲁鲁五月天 | 亚洲麻豆av| 国产一区二区三区黄| 亚洲欧美日本视频在线观看| 先锋影音国产精品| 欧美/亚洲一区| 亚洲国产91精品在线观看| 亚洲国产日韩一级| 欧美承认网站| 日韩亚洲欧美成人一区| 国内伊人久久久久久网站视频| 性色av一区二区三区| 亚洲视频大全| 国产麻豆精品视频| 一本色道久久综合亚洲精品小说 | 欧美一区二区视频在线观看2020 | 欧美韩国日本综合| 亚洲美女91| 欧美一级视频| 曰韩精品一区二区| 欧美精品一区在线发布| 欧美大尺度在线| 国产视频久久网| 正在播放欧美一区| 一区二区三区国产在线观看| 国产精品福利av| 欧美在线视频a| 亚洲韩日在线| 欧美一级在线播放| 1769国产精品| 久久久99免费视频| 亚洲人午夜精品| 久久九九精品| 国产在线视频欧美一区二区三区| 亚洲小少妇裸体bbw| 另类天堂视频在线观看| 一本色道久久综合狠狠躁篇的优点| 国产精品a级| 快播亚洲色图| 午夜精品久久久| 最新日韩在线视频| 日韩视频―中文字幕| 国产欧美一区二区精品忘忧草| 亚洲欧美伊人| 亚洲精品国产欧美| 久久精品视频免费| 国内精品久久久久久影视8| 欧美成人免费观看| 欧美在线免费观看视频| 99综合视频| 亚洲第一区在线| 久久亚洲高清| 亚洲欧美一区二区三区极速播放| 亚洲国产欧美一区二区三区同亚洲| 欧美午夜视频网站| 欧美福利网址| 美女福利精品视频| 久久精品国产亚洲一区二区三区| 艳妇臀荡乳欲伦亚洲一区| 欧美激情久久久久久| 久久久欧美一区二区| 亚洲欧美日韩直播| 激情另类综合| 欧美激情一区在线观看| 亚洲天堂免费在线观看视频| 亚洲国产精品成人va在线观看| 久久在线免费观看视频| 久久久九九九九| 欧美在线播放一区二区| 欧美一区二区在线免费观看| 亚洲午夜羞羞片| 亚洲天堂av在线免费观看| 亚洲精品一区在线观看香蕉| 亚洲欧洲一区| 亚洲精品久久久久| 国产欧美一区二区三区在线看蜜臀| 欧美视频观看一区| 欧美日韩一区二| 欧美日韩精品免费观看视频完整| 欧美一进一出视频| 欧美一区国产二区| 欧美一区二区在线播放| 久久国产综合精品| 9久草视频在线视频精品| 亚洲美女电影在线| 一本色道久久精品| 亚洲影院免费| 性欧美大战久久久久久久免费观看| 亚洲女人av| 久久久久久夜| 午夜国产精品影院在线观看 | 欧美电影专区| 亚洲第一偷拍| 一本色道**综合亚洲精品蜜桃冫| 一二三区精品| 欧美一区二区三区在线视频 | 亚洲欧美激情一区| 欧美一区成人| 欧美成人伊人久久综合网| 欧美日韩在线精品一区二区三区| 国产精品久久久久久久第一福利| 国产精品日日摸夜夜添夜夜av| 欧美精品123区| 国产精品国产三级国产aⅴ9色| 国产精自产拍久久久久久| 国内精品国产成人| 日韩视频在线一区二区三区| 亚洲欧美日韩网| 男女激情视频一区| 99国产精品自拍| 久久久精品动漫| 欧美视频一区二区三区…| 国产日韩欧美中文在线播放| 亚洲激情婷婷| 欧美一区二区视频97| 亚洲第一色中文字幕| 亚洲私人影院| 欧美高清视频免费观看| 国产精品社区| 一区二区国产在线观看| 久久亚洲精品伦理| 亚洲久久一区| 麻豆精品视频在线观看| 国产精品婷婷| 夜夜嗨av一区二区三区四季av| 久久精品成人一区二区三区| 亚洲精品乱码| 久久一区二区三区四区五区| 国产精品视频精品| 亚洲最新色图| 亚洲电影在线看| 久久久久一区二区三区| 国产嫩草影院久久久久|