青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

We do not always find visible happiness in proportion to visible virtue

夢幻白樺林

SHARE

  C++博客 :: 首頁 :: 聯(lián)系 :: 聚合  :: 管理
  14 Posts :: 58 Stories :: 62 Comments :: 0 Trackbacks

公告

常用鏈接

留言簿(5)

搜索

  •  

最新隨筆

最新評論

閱讀排行榜

一、概述
 
分表是個目前算是比較炒的比較流行的概念,特別是在大負載的情況下,分表是一個良好分散數(shù)據(jù)庫壓力的好方法。
 
首先要了解為什么要分表,分表的好處是什么。我們先來大概了解以下一個數(shù)據(jù)庫執(zhí)行SQL的過程:
接收到SQL --> 放入SQL執(zhí)行隊列 --> 使用分析器分解SQL --> 按照分析結(jié)果進行數(shù)據(jù)的提取或者修改 --> 返回處理結(jié)果
 
當然,這個流程圖不一定正確,這只是我自己主觀意識上這么我認為。那么這個處理過程當中,最容易出現(xiàn)問題的是什么?就是說,如果前一個SQL沒 有執(zhí)行完畢的話,后面的SQL是不會執(zhí)行的,因為為了保證數(shù)據(jù)的完整性,必須對數(shù)據(jù)表文件進行鎖定,包括共享鎖和獨享鎖兩種鎖定。共享鎖是在鎖定的期間, 其它線程也可以訪問這個數(shù)據(jù)文件,但是不允許修改操作,相應(yīng)的,獨享鎖就是整個文件就是歸一個線程所有,其它線程無法訪問這個數(shù)據(jù)文件。一般MySQL中 最快的存儲引擎MyISAM,它是基于表鎖定的,就是說如果一鎖定的話,那么整個數(shù)據(jù)文件外部都無法訪問,必須等前一個操作完成后,才能接收下一個操作, 那么在這個前一個操作沒有執(zhí)行完成,后一個操作等待在隊列里無法執(zhí)行的情況叫做阻塞,一般我們通俗意義上叫做“鎖表”。
 
鎖表直接導致的后果是什么?就是大量的SQL無法立即執(zhí)行,必須等隊列前面的SQL全部執(zhí)行完畢才能繼續(xù)執(zhí)行。這個無法執(zhí)行的SQL就會導致沒有結(jié)果,或者延遲嚴重,影響用戶體驗。
 
特別是對于一些使用比較頻繁的表,比如SNS系統(tǒng)中的用戶信息表、論壇系統(tǒng)中的帖子表等等,都是訪問量大很大的表,為了保證數(shù)據(jù)的快速提取返回給用戶,必須使用一些處理方式來解決這個問題,這個就是我今天要聊到的分表技術(shù)。
 
 
分表技術(shù)顧名思義,就是把若干個存儲相同類型數(shù)據(jù)的表分成幾個表分表存儲,在提取數(shù)據(jù)的時候,不同的用戶訪問不同的表,互不沖突,減少鎖表的幾 率。比如,目前保存用戶分表有兩個表,一個是user_1表,還有一個是 user_2 表,兩個表保存了不同的用戶信息,user_1 保存了前10萬的用戶信息,user_2保存了后10萬名用戶的信息,現(xiàn)在如果同時查詢用戶 heiyeluren1 和 heiyeluren2 這個兩個用戶,那么就是分表從不同的表提取出來,減少鎖表的可能。
 
 
我下面要講述的兩種分表方法我自己都沒有實驗過,不保證準確能用,只是提供一個設(shè)計思路。下面關(guān)于分表的例子我假設(shè)是在一個貼吧系統(tǒng)的基礎(chǔ)上來進行處理和構(gòu)建的。(如果沒有用過貼吧的用戶趕緊Google一下)
 
 
 
二、基于基礎(chǔ)表的分表處理
 
這個基于基礎(chǔ)表的分表處理方式大致的思想就是:一個主要表,保存了所有的基本信息,如果某個項目需要找到它所存儲的表,那么必須從這個基礎(chǔ)表中 查找出對應(yīng)的表名等項目,好直接訪問這個表。如果覺得這個基礎(chǔ)表速度不夠快,可以完全把整個基礎(chǔ)表保存在緩存或者內(nèi)存中,方便有效的查詢。
 
我們基于貼吧的情況,構(gòu)建假設(shè)如下的3張表:
 
1. 貼吧版塊表: 保存貼吧中版塊的信息
2. 貼吧主題表:保存貼吧中版塊中的主題信息,用于瀏覽
3. 貼吧回復表:保存主題的原始內(nèi)容和回復內(nèi)容
 
 
“貼吧版塊表”包含如下字段:
版塊ID       board_id          int(10)
版塊名稱    board_name      char(50)
子表ID       table_id            smallint(5)
產(chǎn)生時間    created             datetime
 
“貼吧主題表”包含如下字段:
主題ID          topic_id        int(10)
主題名稱        topic_name     char(255)
版塊ID          board_id          int(10)
創(chuàng)建時間       created           datetime
 
“貼吧回復表”的字段如下:
回復ID        reply_id           int(10)
回復內(nèi)容      reply_text        text
主題ID        topic_id           int(10)
版塊ID        board_id         int(10)
創(chuàng)建時間      created            datetime
 
那么上面保存了我們整個貼吧中的表結(jié)構(gòu)信息,三個表對應(yīng)的關(guān)系是:
 
版塊 --> 多個主題
主題 --> 多個回復
 
那么就是說,表文件大小的關(guān)系是:
版塊表文件 < 主題表文件 < 回復表文件
 
所以基本可以確定需要對主題表和回復表進行分表,已增加我們數(shù)據(jù)檢索查詢更改時候的速度和性能。
 
看了上面的表結(jié)構(gòu),會明顯發(fā)現(xiàn),在“版塊表”中保存了一個"table_id"字段,這個字段就是用于保存一個版塊對應(yīng)的主題和回復都是分表保存在什么表里的。
 
比如我們有一個叫做“PHP”的貼吧,board_id是1,子表ID也是1,那么這條記錄就是:
 
board_id | board_name | table_id | created
1 | PHP | 1 | 2007-01-19 00:30:12
 
相應(yīng)的,如果我需要提取“PHP”吧里的所有主題,那么就必須按照表里保存的table_id來組合一個存儲了主題的表名稱,比如我們主題表的前綴是“topic_”,那么組合出來“PHP”吧對應(yīng)的主題表應(yīng)該是:“topic_1”,那么我們執(zhí)行:
 
Select * FROM topic_1 Where board_id = 1 orDER BY topic_id DESC LIMIT 10
 
這樣就能夠獲取這個主題下面回復列表,方便我們進行查看,如果需要查看某個主題下面的回復,我們可以繼續(xù)使用版塊表中保存的“table_id”來進行查詢。比如我們回復表的前綴是“reply_”,那么就可以組合出“PHP”吧的ID為1的主題的回復:
 
Select * FROM reply_1 Where topic_id = 1 orDER BY reply_id DESC LIMIT 10
 
這里,我們能夠清晰的看到,其實我們這里使用了基礎(chǔ)表,基礎(chǔ)表就是我們的版塊表。那么相應(yīng)的,肯定會說:基礎(chǔ)表的數(shù)據(jù)量大了以后如何保證它的速度和效率?
 
當然,我們就必須使得這個基礎(chǔ)表保持最好的速度和性能,比如,可以采用MySQL的內(nèi)存表來存儲,或者保存在內(nèi)存當中,比如Memcache之類的內(nèi)存緩存等等,可以按照實際情況來進行調(diào)整。
 
一般基于基礎(chǔ)表的分表機制在SNS、交友、論壇等Web2.0網(wǎng)站中是個比較不錯的解決方案,在這些網(wǎng)站中,完全可以單獨使用一個表來來保存基本標識和目標表之間的關(guān)系。使用表保存對應(yīng)關(guān)系的好處是以后擴展非常方便,只需要增加一個表記錄。
 
 
優(yōu)勢 】增加刪除節(jié)點非常方便,為后期升級維護帶來很大便利
劣勢 】需要增加表或者對某一個表進行操作,還是無法離開數(shù)據(jù)庫,會產(chǎn)生瓶頸
 
 
 
三、基于 Hash 算法的分表處理
 
我們知道Hash表就是通過某個特殊的Hash算法計算出的一個值,這個值必須是惟一的,并且能夠使用這個計算出來的值查找到需要的值,這個叫做哈希表。
 
我們在分表里的hash算法跟這個思想類似:通過一個原始目標的ID或者名稱通過一定的hash算法計算出數(shù)據(jù)存儲表的表名,然后訪問相應(yīng)的表。
 
繼續(xù)拿上面的貼吧來說,每個貼吧有版塊名稱和版塊ID,那么這兩項值是固定的,并且是惟一的,那么我們就可以考慮通過對這兩項值中的一項進行一些運算得出一個目標表的名稱。
 
現(xiàn)在假如我們針對我們這個貼吧系統(tǒng),假設(shè)系統(tǒng)最大允許1億條數(shù)據(jù),考慮每個表保存100萬條記錄,那么整個系統(tǒng)就不超過100個表就能夠容納。按照這個標準,我們假設(shè)在貼吧的版塊ID上進行hash,獲得一個key值,這個值就是我們的表名,然后訪問相應(yīng)的表。
 
我們構(gòu)造一個簡單的hash算法:
 
function get_hash($id){
     $str = bin2hex($id);
     $hash = substr($str, 0, 4);
     if (strlen($hash)<4){
         $hash = str_pad($hash, 4, "0");
     }
     return $hash;
}
 
算法大致就是傳入一個版塊ID值,然后函數(shù)返回一個4位的字符串,如果字符串長度不夠,使用0進行補全。
 
比如:get_hash(1),輸出的結(jié)果是“3100”,輸入:get_hash(23819),得到的結(jié)果是:3233,那么我們經(jīng)過簡單的跟表前綴組合,就能夠訪問這個表了。那么我們需要訪問ID為1的內(nèi)容時候哦,組合的表將是:topic_3100、reply_3100,那么就可以直接對目標表進行訪問了。
 
當然,使用hash算法后,有部分數(shù)據(jù)是可能在同一個表的,這一點跟hash表不同,hash表是盡量解決沖突,我們這里不需要,當然同樣需要預測和分析表數(shù)據(jù)可能保存的表名。
 
 
如果需要存儲的數(shù)據(jù)更多,同樣的,可以對版塊的名字進行hash操作,比如也是上面的二進制轉(zhuǎn)換成十六進制,因為漢字比數(shù)字和字母要多很多,那么重復幾率更小,但是可能組合成的表就更多了,相應(yīng)就必須考慮一些其它的問題。
 
歸根結(jié)底,使用hash方式的話必須選擇一個好的hash算法,才能生成更多的表,然數(shù)據(jù)查詢的更迅速。
 
 
優(yōu)點hash算法直接得出目標表名稱,效率很高 】通過
劣勢 】擴展性比較差,選擇了一個hash算法,定義了多少數(shù)據(jù)量,以后只能在這個數(shù)據(jù)量上跑,不能超過過這個數(shù)據(jù)量,可擴展性稍差
 
 
 
四、其它問題
 
1. 搜索問題
現(xiàn)在我們已經(jīng)進行分表了,那么就無法直接對表進行搜索,因為你無法對可能系統(tǒng)中已經(jīng)存在的幾十或者幾百個表進行檢索,所以搜索必須借助第三方的組件來進行,比如Lucene作為站內(nèi)搜索引擎是個不錯的選擇。
 
2. 表文件問題
我們知道MySQL的MyISAM引擎每個表都會生成三個文件,*.frm、*.MYD、*.MYI 三個文件,分表用來保存表結(jié)構(gòu)、表數(shù)據(jù)和表索引。Linux下面每個目錄下的文件數(shù)量最好不要超過1000個,不然檢索數(shù)據(jù)將更慢,那么每個表都會生成三 個文件,相應(yīng)的如果分表超過300個表,那么將檢索非常慢,所以這時候就必須再進行分,比如在進行數(shù)據(jù)庫的分離。
 
使用基礎(chǔ)表,我們可以新增加一個字段,用來保存這個表保存在什么數(shù)據(jù)。使用Hash的方式,我們必須截取hash值中第幾位來作為數(shù)據(jù)庫的名字。這樣,完好的解決這個問題。
 
 
五、總結(jié)
 
在大負載應(yīng)用當中,數(shù)據(jù)庫一直是個很重要的瓶頸,必須要突破,本文講解了兩種分表的方式,希望對很多人能夠有啟發(fā)的作用。當然,本文代碼和設(shè)想沒有經(jīng)過任何代碼測試,所以無法保證設(shè)計的完全準確實用,具體還是需要讀者在使用過程當中認真分析實施。
 

posted on 2007-09-18 09:51 colys 閱讀(592) 評論(0)  編輯 收藏 引用 所屬分類: C#.NetoracleSqlServer

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            欧美日韩午夜剧场| 亚洲人成精品久久久久| 久久久www| 亚洲亚洲精品三区日韩精品在线视频 | 国产精品大片免费观看| 欧美成人蜜桃| 你懂的亚洲视频| 欧美成人免费观看| 欧美成人一区在线| 欧美电影美腿模特1979在线看| 久久综合色婷婷| 麻豆精品91| 女女同性精品视频| 男男成人高潮片免费网站| 美日韩精品免费| 欧美激情视频给我| 欧美激情亚洲激情| 欧美日韩国产色综合一二三四| 欧美日韩成人在线| 欧美日韩一区不卡| 国产精品男人爽免费视频1| 久久这里只有精品视频首页| 欧美一级久久久久久久大片| 亚洲欧美国产不卡| 亚洲午夜女主播在线直播| 99视频国产精品免费观看| 99国产精品久久久久久久成人热| 亚洲美女诱惑| 亚洲素人在线| 午夜精品久久久久久久蜜桃app | 亚洲欧美另类国产| 欧美一区二区三区成人| 久久精品国产精品亚洲| 免费日韩一区二区| 欧美日本簧片| 国产精品视频导航| 一区福利视频| 亚洲精品孕妇| 亚洲男女自偷自拍图片另类| 欧美在线免费播放| 欧美福利小视频| 亚洲美女电影在线| 亚洲欧美日韩精品久久久久| 欧美综合国产精品久久丁香| 欧美~级网站不卡| 欧美日韩一区在线观看视频| 国产欧美日韩精品专区| 亚洲第一区在线观看| 一本色道久久88综合日韩精品 | 一区二区成人精品| 性久久久久久| 欧美成人r级一区二区三区| 欧美日本三区| 国产一区在线看| 亚洲理伦在线| 欧美一区二区在线免费播放| 免费不卡中文字幕视频| 亚洲二区三区四区| 亚洲一区二区成人| 欧美gay视频激情| 国产精品毛片高清在线完整版| 亚洲第一狼人社区| 午夜天堂精品久久久久| 亚洲高清网站| 亚欧美中日韩视频| 欧美精品九九| 狠狠色丁香久久婷婷综合丁香| 亚洲视频在线视频| 免费成人网www| 亚洲一区二区久久| 欧美bbbxxxxx| 激情久久五月| 午夜精品久久久久久99热软件| 男人天堂欧美日韩| 亚洲已满18点击进入久久| 欧美成人激情在线| 国产深夜精品福利| 亚洲一本大道在线| 亚洲精品国产精品久久清纯直播| 亚洲欧美中文字幕| 欧美日韩另类综合| 国产一区二区日韩精品| 在线性视频日韩欧美| 欧美成人tv| 性欧美8khd高清极品| 国产精品av一区二区| 亚洲激情图片小说视频| 久久久一区二区三区| 亚洲深夜影院| 欧美日韩在线播放三区| 日韩天堂av| 亚洲高清在线| 裸体女人亚洲精品一区| 狠狠干狠狠久久| 久久精品视频播放| 亚洲欧美激情视频在线观看一区二区三区| 欧美激情综合在线| 亚洲精品视频在线观看免费| 久久一区二区三区超碰国产精品| 亚洲欧美不卡| 国产精品国产三级国产a| 99国产精品久久久| 最新国产の精品合集bt伙计| 久久免费精品日本久久中文字幕| 国产一区激情| 久久av在线看| 先锋影音网一区二区| 国产欧美一区二区三区视频| 亚洲一区在线观看视频 | 裸体素人女欧美日韩| 激情五月综合色婷婷一区二区| 宅男噜噜噜66一区二区| 亚洲精品看片| 欧美日韩国产综合视频在线观看| 亚洲精品影院在线观看| 亚洲盗摄视频| 快射av在线播放一区| 亚洲国产成人午夜在线一区 | 国产日韩精品电影| 午夜精品久久久久久久99热浪潮| 一区二区三区回区在观看免费视频| 欧美日韩免费区域视频在线观看| 亚洲特级片在线| 亚洲午夜高清视频| 国产欧美一区二区精品性| 久久精品视频网| 久久一区免费| 亚洲精品四区| 中国女人久久久| 国产精品五月天| 老司机午夜精品| 美女国内精品自产拍在线播放| 亚洲欧洲在线一区| 亚洲伦理网站| 国产精品区一区| 久久久7777| 欧美凹凸一区二区三区视频| 日韩亚洲国产精品| 亚洲先锋成人| 国内精品伊人久久久久av一坑| 免费亚洲视频| 欧美日韩精品免费观看视频| 午夜精品福利电影| 久久精品水蜜桃av综合天堂| 亚洲片在线观看| 亚洲视频高清| 亚洲级视频在线观看免费1级| 亚洲性线免费观看视频成熟| 亚洲第一精品福利| 一本色道久久综合亚洲91| 一区二区三区自拍| 在线亚洲激情| 亚洲国产成人av好男人在线观看| 亚洲视频在线看| 亚洲精品免费一二三区| 午夜精品久久99蜜桃的功能介绍| 亚洲另类在线视频| 亚洲调教视频在线观看| 亚洲欧洲一区二区三区| 亚洲婷婷综合色高清在线| 精久久久久久| 一区二区三区蜜桃网| 黄色成人免费观看| 一本大道久久精品懂色aⅴ| 国产日韩亚洲欧美综合| 亚洲国产天堂久久国产91| 国产欧美日韩在线视频| 亚洲国产精品一区二区三区| 国产日韩欧美一区在线| 亚洲激情在线播放| 国产亚洲一级高清| 亚洲免费福利视频| 激情婷婷欧美| 亚洲一区二区影院| 亚洲免费黄色| 久久婷婷综合激情| 欧美亚洲一区二区在线| 欧美成人精品1314www| 久久精品国产精品亚洲| 欧美剧在线观看| 美女久久网站| 国产日韩欧美一区二区| 这里只有精品丝袜| 在线一区二区日韩| 欧美日韩不卡一区| 亚洲黄页视频免费观看| 亚洲第一综合天堂另类专| 久久精品视频在线看| 久久久久久久久久久久久女国产乱 | 久久伊伊香蕉| 国产欧美欧美| 亚洲欧美bt| 欧美一级二级三级蜜桃| 欧美性大战xxxxx久久久| 日韩视频免费| 亚洲一二三区在线观看| 欧美性色综合| 亚洲视频成人| 欧美伊人久久久久久久久影院| 国产精品wwwwww|