青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

foxriver
Keep It Simple and Stupid.
posts - 12,  comments - 39,  trackbacks - 0

當(dāng)QQ群聊天記錄日積月累,達(dá)到一定數(shù)量級(jí)的時(shí)候,要查找某些單一文字,往往會(huì)花費(fèi)10幾秒甚至幾分鐘才有反應(yīng)。除去磁盤(pán)讀取的時(shí)間,是否對(duì)聊天記錄做一個(gè)全局索引也是個(gè)重要的優(yōu)化,這篇文章就是為了優(yōu)化文本查找速度,介紹一個(gè)最簡(jiǎn)單的方法。

試著把QQ每條聊天記錄看成SQL里單一記錄,對(duì)單條記錄做全文索引。這里用的方法是bit位快速匹配。假設(shè)一條聊天記錄是"test", 轉(zhuǎn)換成16進(jìn)制,就是"74 65 73 74", 對(duì)單條記錄,定義196位bit空間(占用24字節(jié)),定義為數(shù)組A, 然后按bit層(注意不是字節(jié))做or操作:  (A = A or N, 把A的第N個(gè)bit設(shè)置為1)

初始狀態(tài):
A = 0;        // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】

A = A or 0x74; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x10,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】
A = A or 0x65; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x20,0x00,0x10,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】
A = A or 0x73; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x20,0x00,0x18,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】
A = A or 0x74; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x20,0x00,0x18,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】

使用時(shí),給需要查找的字符串建立相同大小的bit索引B,對(duì)查找數(shù)據(jù)"es"做相同處理:

B = 0;
B = B or 0x65; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x20,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】
B = B or 0x73; // 【0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x20,0x00,0x08,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00】

然后把A和B做and操作,如果結(jié)果為空(完全沒(méi)有交集),則可以快速跳過(guò)這條記錄,而不用去判斷實(shí)際內(nèi)容中是否包含了查找文本。

if (B & A)
{
  // 兩者索引存在交集,有一定的可能性,處理進(jìn)一步文字查找操作。
}
else
{
  // 兩者不可能有包含關(guān)系,直接跳過(guò)本條記錄內(nèi)容,判斷數(shù)據(jù)庫(kù)下一條記錄。
}

原理很簡(jiǎn)單,就是求兩者的交集,但往往簡(jiǎn)單的索引,能帶來(lái)意想不到的速度提升。實(shí)際測(cè)試中,只要輸入的查找文本比較短小,大約30%~60%上下浮動(dòng)的數(shù)據(jù)都能直接略過(guò),大大節(jié)省了查找總耗時(shí)。

本人實(shí)現(xiàn)中,中文的查找方法相當(dāng)于兩個(gè)單字節(jié)的英文,為了最大效率利用空間,用算法把中文每個(gè)BYTE都?jí)嚎s在196bit之內(nèi)。

posted on 2011-01-14 01:22 foxriver 閱讀(2252) 評(píng)論(6)  編輯 收藏 引用

FeedBack:
# re: C++ 【原創(chuàng)算法】實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-01-14 09:30 | atyuwen
你這個(gè)不就是bloom filter的山寨版么,而且hash時(shí)并沒(méi)有考慮到pattern中的字母順序,結(jié)果退化成了一個(gè)普通的字符集求交。  回復(fù)  更多評(píng)論
  
# re: C++ 實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-01-14 09:42 | foxriver
@atyuwen

啥,已經(jīng)有人實(shí)現(xiàn)過(guò)了?有點(diǎn)杯具,去找來(lái)bloom filter研究研究。  回復(fù)  更多評(píng)論
  
# re: C++ 【山寨算法】實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-01-14 12:03 | waiting4you
和布隆算法還是不太一樣的,有創(chuàng)意~~
只是有個(gè)地方?jīng)]看懂,A = A or 0x74怎么運(yùn)算呢?怎么得到...0x16...的?謝謝  回復(fù)  更多評(píng)論
  
# re: C++ 【山寨算法】實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-01-14 14:28 | foxriver
@waiting4you

杯具,測(cè)試數(shù)據(jù)寫(xiě)錯(cuò)了,是十進(jìn)制的結(jié)果,被我寫(xiě)成了16進(jìn)制,已經(jīng)修正。感謝。  回復(fù)  更多評(píng)論
  
# re: C++ 【山寨算法】實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-01-14 21:50 | qiuxiafei
額 確實(shí)是bloomfilter....
不過(guò)還是很贊 異曲同工  回復(fù)  更多評(píng)論
  
# re: C++ 【山寨算法】實(shí)現(xiàn)一個(gè)最簡(jiǎn)單bit位全文查找索引。
2011-02-12 17:57 | 隨便寫(xiě)寫(xiě)~~
@waiting4you
嘗試做了下,還不錯(cuò)~~

public void or(byte[] input, byte index) {
int move = index % 8;
int fix = index / 8;
input[fix] |= (byte)(1 << move);
}

public bool and(byte[] input1, byte[] input2) {
for (int i = 0; i < input1.Length; i++) {
int x = input1[i] & input2[i];
if (x > 0)
return true;
}
return false;
}  回復(fù)  更多評(píng)論
  

只有注冊(cè)用戶登錄后才能發(fā)表評(píng)論。
網(wǎng)站導(dǎo)航: 博客園   IT新聞   BlogJava   博問(wèn)   Chat2DB   管理



<2025年11月>
2627282930311
2345678
9101112131415
16171819202122
23242526272829
30123456

常用鏈接

留言簿(3)

隨筆檔案

文章檔案

相冊(cè)

1

搜索

  •  

最新評(píng)論

閱讀排行榜

評(píng)論排行榜

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            中文av一区特黄| 一区二区三区视频在线看| 欧美日韩直播| 老司机一区二区三区| 国产精品日韩欧美一区二区三区| 欧美v日韩v国产v| 国产网站欧美日韩免费精品在线观看 | 精品动漫3d一区二区三区| 亚洲视频碰碰| 亚洲视频成人| 欧美日韩精品免费观看视频| 欧美成人视屏| 在线观看日韩www视频免费| 欧美一区中文字幕| 午夜精品区一区二区三| 欧美色一级片| 在线视频精品一区| 亚洲深夜福利在线| 欧美日韩高清在线| 日韩一区二区福利| 亚洲天天影视| 欧美特黄a级高清免费大片a级| 亚洲欧洲日本一区二区三区| 亚洲精品视频在线| 欧美韩国一区| 91久久中文| 亚洲美女黄色片| 欧美粗暴jizz性欧美20| 亚洲激情在线激情| 中文网丁香综合网| 国产精品剧情在线亚洲| 亚洲一区二区三区精品在线观看| 亚洲免费综合| 国产日韩成人精品| 欧美一区二区三区视频| 久久久噜噜噜久久人人看| 黄色一区二区在线| 久久亚洲国产精品日日av夜夜| 欧美99久久| 99re视频这里只有精品| 国产精品高潮呻吟| 欧美一区二区三区在| 嫩草伊人久久精品少妇av杨幂| …久久精品99久久香蕉国产| 欧美二区乱c少妇| 99riav1国产精品视频| 午夜久久久久| 在线成人小视频| 欧美精品一区二区三区高清aⅴ| 在线亚洲观看| 久久美女艺术照精彩视频福利播放| 亚洲国产高清一区| 欧美日韩在线视频一区二区| 香蕉久久一区二区不卡无毒影院| 美女视频网站黄色亚洲| 一二三区精品福利视频| 国产欧美视频一区二区三区| 久久午夜电影网| 99re8这里有精品热视频免费| 久久av免费一区| 最近看过的日韩成人| 国产精品人成在线观看免费| 久久裸体艺术| 亚洲午夜女主播在线直播| 免费观看一区| 亚洲男人的天堂在线观看| 在线观看日韩av电影| 国产精品igao视频网网址不卡日韩| 久久精品91| 一本色道久久综合狠狠躁的推荐| 久久亚洲精品视频| 亚洲综合首页| 91久久嫩草影院一区二区| 国产精品永久免费| 欧美激情综合在线| 久久精品系列| 亚洲欧美国产一区二区三区| 亚洲黄色av一区| 久久久久一区二区| 亚洲一线二线三线久久久| 最新国产の精品合集bt伙计| 国产亚洲毛片在线| 国产精品美女久久久| 欧美美女bbbb| 免费不卡在线观看av| 欧美有码视频| 亚洲在线视频一区| 亚洲理论电影网| 欧美激情精品久久久久久蜜臀| 午夜精品久久久久99热蜜桃导演| 夜夜嗨av一区二区三区中文字幕| 在线观看视频日韩| 国产一区二区三区观看 | 国产精品视频免费| 欧美日韩精品一区二区在线播放 | 国产精品www网站| 欧美久久久久免费| 免费一级欧美片在线观看| 久久精品国产免费看久久精品| 亚洲视频在线视频| 在线视频日韩| 亚洲私人影院| 亚洲综合三区| 亚洲欧美大片| 午夜一级在线看亚洲| 亚洲一区二区三区精品动漫| 亚洲午夜羞羞片| 亚洲欧美日韩国产中文在线| 亚洲主播在线观看| 性高湖久久久久久久久| 欧美一级大片在线免费观看| 欧美一级成年大片在线观看| 欧美专区在线播放| 久久久精品欧美丰满| 久久夜精品va视频免费观看| 久久午夜精品一区二区| 另类av导航| 欧美成人一区二区| 欧美激情第一页xxx| 欧美日韩在线高清| 国产精品剧情在线亚洲| 国产热re99久久6国产精品| 国产专区欧美精品| 亚洲激情综合| 一本不卡影院| 欧美一区二区三区播放老司机| 久久久xxx| 欧美激情国产日韩| 99re6这里只有精品| 午夜欧美大尺度福利影院在线看| 久久久7777| 欧美搞黄网站| 国产精品福利在线| 国内精品国产成人| 日韩一本二本av| 欧美一级视频| 欧美岛国在线观看| 99v久久综合狠狠综合久久| 先锋a资源在线看亚洲| 免费久久99精品国产自在现线| 欧美日韩网址| 极品少妇一区二区三区| 日韩视频免费观看高清完整版| 午夜精品久久久久久久白皮肤| 久久久久成人网| 亚洲毛片一区二区| 欧美一二三区精品| 欧美精品激情| 激情亚洲一区二区三区四区| 日韩视频永久免费| 久久精品成人一区二区三区蜜臀 | 欧美专区中文字幕| 欧美精彩视频一区二区三区| 国产深夜精品福利| 99视频在线精品国自产拍免费观看| 午夜精品久久久久久久久久久久久| 久久深夜福利免费观看| 亚洲精品极品| 久久精品亚洲一区| 国产精品入口麻豆原神| 亚洲精品1区| 久久精品人人| 一本久久青青| 欧美1区2区| 精品69视频一区二区三区| 亚洲女人天堂成人av在线| 亚洲国产欧美一区二区三区同亚洲| 亚洲制服av| 欧美视频一区二| 亚洲电影免费观看高清完整版| 亚洲综合色丁香婷婷六月图片| 亚洲高清资源| 久久综合九色综合久99| 国产字幕视频一区二区| 午夜亚洲福利| 一区二区三区黄色| 欧美日韩成人一区二区三区| 91久久国产精品91久久性色| 久久中文在线| 久久精品系列| 国产综合久久| 久久久久久欧美| 欧美在线你懂的| 国产欧美一区二区三区国产幕精品 | 99综合在线| 欧美日韩国产精品一卡| 亚洲精品四区| 亚洲国产精品成人一区二区| 久久综合九色99| …久久精品99久久香蕉国产| 久久久噜噜噜久久久| 久久成人一区| 国产一区二区三区在线免费观看 | 欧美精品91| av成人福利| 99pao成人国产永久免费视频| 欧美日韩1区2区| 一区二区三区鲁丝不卡| 宅男精品导航| 国产日韩欧美中文|