• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            不會(huì)飛的鳥

            2010年12月10日 ... 不鳥他們!!! 我要用自己開發(fā)的分布式文件系統(tǒng)、分布式調(diào)度系統(tǒng)、分布式檢索系統(tǒng), 做自己的搜索引擎!!!大魚有大志!!! ---楊書童

            [轉(zhuǎn)]純真IP數(shù)據(jù)庫格式詳解

            摘要 

            網(wǎng)絡(luò)上的IP數(shù)據(jù)庫以純真版的最為流行,LumaQQ也采用了純真版IP數(shù)據(jù)庫做為IP查詢功能的基礎(chǔ)。不過關(guān)于其格式的文檔卻非常之少,后來終于在網(wǎng)上 找到了一份文檔,得以了解其內(nèi)幕,不過那份文檔寥寥數(shù)語,也是頗為耐心才讀明白。在這里我重寫一份,以此做為LumaQQ開發(fā)者文檔的一部分,我想還是必 要的。本文詳細(xì)介紹了純真IP數(shù)據(jù)庫的格式,并且給出了一些Demo以供參考。 
            Luma, 清華大學(xué)
            修改日期: 2005/01/14

            Note: 在此感謝純真IP數(shù)據(jù)庫作者金狐和那唯一一份文檔的作者。

            修改歷史:
            2005-01-14 修改了原來一些表達(dá)不清和錯(cuò)誤的地方 


            --------------------------------------------------------------------------------

            自從有了IP數(shù)據(jù)庫這種東西,QQ外掛的顯示IP功能也隨之而生,本人見識(shí)頗窄,是否還有其他應(yīng)用不得而知,不過,IP數(shù)據(jù)庫確實(shí)是個(gè)不錯(cuò)的東西。如今網(wǎng) 絡(luò)上最流行的IP數(shù)據(jù)庫我想應(yīng)該是純真版的(說錯(cuò)了也不要扁我),迄今為止其IP記錄條數(shù)已經(jīng)接近30000,對(duì)于有些IP甚至能精確到樓層,不亦快哉。 2004年4、5月間,正逢LumaQQ破土動(dòng)工,為了加上這個(gè)人人都喜歡,但是好像人人都不知道為什么喜歡的顯IP功能,我也采用了純真版IP數(shù)據(jù)庫, 它的優(yōu)點(diǎn)是記錄多,查詢速度快,它只用一個(gè)文件QQWry.dat就包含了所有記錄,方便嵌入到其他程序中,也方便升級(jí)。

            基本結(jié)構(gòu)
            QQWry.dat文件在結(jié)構(gòu)上分為3塊:文件頭,記錄區(qū),索引區(qū)。一般我們要查找IP時(shí),先在索引區(qū)查找記錄偏移,然后再到記錄區(qū)讀出信息。由于記錄區(qū) 的記錄是不定長的,所以直接在記錄區(qū)中搜索是不可能的。由于記錄數(shù)比較多,如果我們遍歷索引區(qū)也會(huì)是有點(diǎn)慢的,一般來說,我們可以用二分查找法搜索索引 區(qū),其速度比遍歷索引區(qū)快若干數(shù)量級(jí)。圖1是QQWry.dat的文件結(jié)構(gòu)圖。


            [img]http://lumaqq.linuxsir.org/article/images/1/qqwry_dat_overview.gif[img]
            圖1. QQWry.dat文件結(jié)構(gòu)
            要注意的是,QQWry.dat里面全部采用了little-endian字節(jié)序

            一. 了解文件頭
            QQWry.dat的文件頭只有8個(gè)字節(jié),其結(jié)構(gòu)非常簡單,首四個(gè)字節(jié)是第一條索引的絕對(duì)偏移,后四個(gè)字節(jié)是最后一條索引的絕對(duì)偏移。

            二. 了解記錄區(qū)
            每條IP記錄都由國家和地區(qū)名組成,國家地區(qū)在這里并不是太確切,因?yàn)榭赡軙?huì)查出來“清華大學(xué)計(jì)算機(jī)系”之類的,這里清華大學(xué)就成了國家名了,所以這個(gè)國 家地區(qū)名和IP數(shù)據(jù)庫制作的時(shí)候有關(guān)系。所以記錄的格式有點(diǎn)像QName,有一個(gè)全局部分和局部部分組成,我們這里還是沿用國家名和地區(qū)名的說法。

            于是我們想象著一條記錄的格式應(yīng)該是: [IP地址][國家名][地區(qū)名],當(dāng)然,這個(gè)沒有什么問題,但是這只是最簡單的情況。很顯然,國家名和地區(qū)名可能會(huì)有很多的重復(fù),如果每條記錄都保存一 個(gè)完整的名稱拷貝是非常不理想的,所以我們就需要重定向以節(jié)省空間。所以為了得到一個(gè)國家名或者地區(qū)名,我們就有了兩個(gè)可能:第一就是直接的字符串表示的 國家名,第二就是一個(gè)4字節(jié)的結(jié)構(gòu),第一個(gè)字節(jié)表明了重定向的模式,后面3個(gè)字節(jié)是國家名或者地區(qū)名的實(shí)際偏移位置。對(duì)于國家名來說,情況還可能更復(fù)雜 些,因?yàn)檫@樣的重定向最多可能有兩次。

            那么什么是重定向模式?根據(jù)上面所說,一條記錄的格式是[IP地址][國家記錄][地區(qū)記錄],如果國家記錄是重定向的話,那么地區(qū)記錄是有可能沒有的,于是就有了兩種情況,我管他叫做模式1和模式2。我們對(duì)這些格式的情況舉圖說明:



            圖2. IP記錄的最簡單形式
            圖2表示了最簡單的IP記錄格式,我想沒有什么可以解釋的



            圖3. 重定向模式1
            圖3演示了重定向模式1的情況。我們看到在模式1的情況下,地區(qū)記錄也跟著國家記錄走了,在IP地址之后只剩下了國家記錄的4字節(jié),后面3個(gè)字節(jié)構(gòu)成了一個(gè)指針,指向了實(shí)際的國家名,然后又跟著地址名。模式1的標(biāo)識(shí)字節(jié)是0x01。



            圖4. 重定向模式2
            圖4演示了重定向模式2的情況。我們看到了在模式2的情況下(其標(biāo)識(shí)字節(jié)是0x02),地區(qū)記錄沒有跟著國家記錄走,因此在國家記錄之后4個(gè)字節(jié)之后還是 有地區(qū)記錄。我想你已經(jīng)明白了模式1和模式2的區(qū)別,即:模式1的國家記錄后面不會(huì)再有地區(qū)記錄,模式2的國家記錄后會(huì)有地區(qū)記錄。下面我們來看一下更復(fù) 雜的情況。



            圖5. 混和情況1
            圖5演示了當(dāng)國家記錄為模式1的時(shí)候可能出現(xiàn)的更復(fù)雜情況,在這種情況下,重定向指向的位置仍然是個(gè)重定向,不過第二次重定向?yàn)槟J?。大家不用擔(dān)心,沒 有模式3了,這個(gè)重定向也最多只有兩次,并且如果發(fā)生了第二次重定向,則其一定為模式2,而且這種情況只會(huì)發(fā)生在國家記錄上,對(duì)于地區(qū)記錄,模式1和模式 2是一樣的,地區(qū)記錄也不會(huì)發(fā)生2次重定向。不過,這個(gè)圖還可以更復(fù)雜,如圖7:



            圖6. 混和情況2
            圖6是模式1下最復(fù)雜的混和情況,不過我想應(yīng)該也很好理解,只不過地區(qū)記錄也來重定向而已,有一點(diǎn)我要提醒你,如果重定向的地址是0,則表示未知的地區(qū)名。

            所以我們總結(jié)如下:一條IP記錄由[IP地址][國家記錄][地區(qū)記錄]組成,對(duì)于國家記錄,可以有三種表示方式:字符串形式,重定向模式1和重定向模式 2。對(duì)于地區(qū)記錄,可以有兩種表示方式:字符串形式和重定向,另外有一條規(guī)則:重定向模式1的國家記錄后不能跟地區(qū)記錄。按照這個(gè)總結(jié),在這些方式中合理 組合,就構(gòu)成了IP記錄的所有可能情況。

            設(shè)計(jì)的理由
            在我們繼續(xù)去了解索引區(qū)的結(jié)構(gòu)之前,我們先來了解一下為何記錄區(qū)的結(jié)構(gòu)要如此設(shè)計(jì)。我想你可能想到了答案:字符串重用。沒錯(cuò),在這種結(jié)構(gòu)下,對(duì)于一個(gè)國家 名和地區(qū)名,我只需要保存其一次就可以了。我們舉例說明,為了表示方便,我們用小寫字母代表IP記錄,C表示國家名,A表示地區(qū)名: 

            有兩條記錄a(C1, A1), b(C2, A2),如果C1 = C2, A1 = A2,那么我們就可以使用圖3顯示的結(jié)構(gòu)來實(shí)現(xiàn)重用 
            有三條記錄a(C1, A1), b(C2, A2), c(C3, A3),如果C1 = C2, A2 = A3,現(xiàn)在我們想存儲(chǔ)記錄b,那么我們可以用圖6的結(jié)構(gòu)來實(shí)現(xiàn)重用 
            有兩條記錄a(C1, A1), b(C2, A2),如果C1 = C2,現(xiàn)在我們想存儲(chǔ)記錄b,那么我們可以采用模式2表示C2,用字符串表示A2 

            你可以舉出更多的情況,你也會(huì)發(fā)現(xiàn)在這種結(jié)構(gòu)下,不同的字符串只需要存儲(chǔ)一次。

            了解索引區(qū)
            在"了解文件頭"部分,我們說明了文件頭實(shí)際上是兩個(gè)指針,分別指向了第一條索引和最后一條索引的絕對(duì)偏移。如圖8所示:



            圖8. 文件頭指向索引區(qū)圖示
            實(shí)在是很簡單,不是嗎?從文件頭你就可以定位到索引區(qū),然后你就可以開始搜索IP了!每條索引長度為7個(gè)字節(jié),前4個(gè)字節(jié)是起始IP地址,后三個(gè)字節(jié)就指 向了IP記錄。這里有些概念需要說明一下,什么是起始IP,那么有沒有結(jié)束IP? 假設(shè)有這么一條記錄:166.111.0.0 - 166.111.255.255,那么166.111.0.0就是起始IP,166.111.255.255就是結(jié)束IP,結(jié)束IP就是IP記錄中的那頭 4個(gè)字節(jié),這下你應(yīng)該就清楚了吧。于是乎,每條索引配合一條記錄,構(gòu)成了一個(gè)IP范圍,如果你要查找166.111.138.138所在的位置,你就會(huì)發(fā) 現(xiàn)166.111.138.138落在了166.111.0.0 - 166.111.255.255 這個(gè)范圍內(nèi),那么你就可以順著這條索引去讀取國家和地區(qū)名了。那么我們給出一個(gè)最詳細(xì)的圖解吧:



            圖9. 文件詳細(xì)結(jié)構(gòu)
            現(xiàn)在一切都清楚了是不是?也許還有一點(diǎn)你不清楚,QQWry.dat的版本信息存在哪里呢? 答案是:最后一條IP記錄實(shí)際上就是版本信息,最后一條記錄顯示出來就是這樣:255.255.255.0 255.255.255.255 純真網(wǎng)絡(luò) 2004年6月25日IP數(shù)據(jù)。OK,到現(xiàn)在你應(yīng)該全部清楚了。

            posted on 2011-10-01 21:52 不會(huì)飛的鳥 閱讀(320) 評(píng)論(0)  編輯 收藏 引用


            只有注冊(cè)用戶登錄后才能發(fā)表評(píng)論。
            網(wǎng)站導(dǎo)航: 博客園   IT新聞   BlogJava   博問   Chat2DB   管理


            日本精品久久久中文字幕| 热久久国产精品| 久久久久久综合网天天| 国产精品久久久久久五月尺| 亚洲中文久久精品无码| 国产三级久久久精品麻豆三级 | 国内精品久久久久久久久| 久久综合狠狠色综合伊人| 日本精品一区二区久久久| 伊人久久综合无码成人网| 精品久久777| 国产精品久久久久久久人人看| 久久777国产线看观看精品| 伊人久久大香线蕉综合网站| 国产精品免费看久久久| 伊人久久大香线蕉综合网站| 久久久中文字幕| 人妻无码αv中文字幕久久琪琪布| 久久96国产精品久久久| 午夜人妻久久久久久久久| 国产女人aaa级久久久级| 乱亲女H秽乱长久久久| 亚洲天堂久久久| 久久久受www免费人成| 久久噜噜电影你懂的| 久久精品国产亚洲AV高清热| 日日狠狠久久偷偷色综合免费| 青青草原综合久久大伊人| 51久久夜色精品国产| 国产韩国精品一区二区三区久久| 一本色综合久久| 精品乱码久久久久久夜夜嗨| 狠狠色丁香婷综合久久| 国产精品久久久久9999| 97久久久精品综合88久久| 亚洲AV无码久久寂寞少妇| 亚洲精品无码成人片久久| 久久亚洲精品无码aⅴ大香 | 国产精品久久久久久搜索| 亚洲国产精品无码久久SM| 偷窥少妇久久久久久久久|