• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            隨筆 - 119  文章 - 290  trackbacks - 0

            博客搬家了哦,請移步
            叫我abc

            常用鏈接

            留言簿(12)

            隨筆分類

            我的博客

            搜索

            •  

            積分與排名

            • 積分 - 303681
            • 排名 - 84

            最新評論

            閱讀排行榜

            話說一直想找一個別人寫好的使用,可惜沒什么人會拿這小東西發布,只好自寫一個。

            1.多級鏈表分配池
            我不知道這種設計的具體學名是什么,這部分的內容也許你去看《STL源碼分析》的有關章節更合適一些,這里我只能用我粗陋的語言描述一下。
            內存池,完全可以從字面上理解為從池子里申請內存,釋放的時候還給池子。
            最簡單的內存池應該是fix_pool吧,即每次分配出來的內存塊大小是固定的。這種池子的管理結構是一個鏈表,鏈表的每一個節點為固定大小的內存塊。分配的時候,直接返回鏈表的第一個節點,節點不足時,從系統申請大塊內存分成多個節點加入鏈表;釋放的時候更簡單,將釋放的內存加入鏈表頭。
            假設fix_pool的fix size = 128,那么內存池可以為128byte以下的任意大小的請求進行分配,但是這樣做相當浪費呢,于是unfix_pool就在此基礎上出現了。
            由多個分配大小不同的fix_pool所組成的內存池就叫做多級鏈表分配池,我是這么定義的。
            常規上會定義8,16,24,32,...,112,120,128這些分配大小,共16級。分配或者釋放的時候,判斷請求的大小在哪一級別上,用該級別的fix_pool鏈表進行分配或者釋放。


            2.泄漏檢測
            當所有的分配都經過你的手的時候,泄漏檢測什么的再簡單不過了。
            找個地方把分配的東西記錄下來,釋放的時候把記錄去掉。程序退出的時候還存在的分配記錄就是泄漏了。
            我個人選用的方法是給每一個分配請求多分配一些內存,用來記錄分配的信息,并將這部分信息用雙向鏈表串起來。釋放的時候對釋放的指針做一下指針偏移就可以找到信息記錄并移出雙向鏈表。
            這個方法的開銷是常數級的,不過無法處理重復刪除的問題。


            3.operater new
            要把你的內存池應用到每一個角落,需要定義operator new和operator delete。
             void* operator new(size_t) throw(std::bad_alloc);
             void operator delete(void* p);
            但是這還不夠,誰也不想看到一堆泄漏信息而找不到泄漏的位置,因此還需要定義帶附加參數的operator。
            對于placement new而言,operator new[]和operator delete[]是必須的,無法省略。

            void* operator new(size_t, const char* file, int line, const char* function);
            void* operator new[](size_t, const char*intconst char*);
            void operator delete(void* p);
            void operator delete[](void* p);
            為了能用上新的operator,需要在頭文件中重新定義new,并包含進每一個cpp文件。

            //op_new.h
            #define DEBUG_NEW new(__FILE__, __LINE__, __FUNCTION__)
            #define new DEBUG_new
            不過重定義new會和自行使用placement new的地方沖突,如stl容器庫,這時候要undef new后才能編譯沖突組件。

            #undef new
            #include 
            <vector>
            #include 
            "op_new.h"


            4.線程安全
            我沒聽說過new/delete,malloc/free是線程不安全的,所以在內存池的allocate/deallocate接口處直接加了鎖。
            想降低開銷的同學可以使用spin lock,而不是mutex。


            5.bench
            AMD5000+ X2, memory 2G,測試分配大概900M
             1     for(int x=0; x<REPEAT; ++x)
             2     {
             3         clock_t t1 = clock();
             4         for(int i=0; i<15990000++i)
             5         {
             6             size_t size = rand() % 121;
             7             char* p = new char[size];
             8             bufs.push_back(p);
             9         }
            10         tm = tm + clock() - t1;
            11         printf("time alloc %d\n", tm);
            12 
            13         t1 = clock();
            14         for(int i=0; i<bufs.size(); ++i)
            15         {
            16             char* p = bufs[i];
            17             delete [] p;
            18         }
            19         t2 = t2 + clock() - t1;
            20         printf("time free %d\n", t2);
            21         bufs.clear();
            22     }

            repeat=1
            win32下分配效率提升大概50%,釋放效率提升170%;
            linux下技不如人,輸了。。。。

            repeat=15,應該存在內存碎片這種東西了
            win32下分配效率提升100%,釋放效率提升140%;
            linux下分配效率提升大概15%左右,釋放效率提升50%以上。

            猜測結論: linux的內存分配機制很高效。我的實現可能寫得不怎樣,或者內存池已經out了。

            補充:
            由eXile推薦的tcmalloc,進行了性能測試,linux平臺
            repeat=1
            tcmalloc和系統分配半斤八兩,難出其右。
            repeat=15
            tcmalloc分配效率提升30%以上,釋放效率提升100%以上。
            我想果然還是我實現里使用mutex的緣故,去掉加鎖后,速度超英趕美,釋放效率更是比tcmalloc提升了50%以上。
            也許將mutex換成spin lock就能和tcmalloc的效率接近了,但是對于thread cache這一點我是沒法比的,可以不加鎖分配,多線程下的效率很高。
            不過既然有tcmalloc,自己寫這種general pool就沒有什么必要了。
            posted on 2009-11-11 21:57 LOGOS 閱讀(9880) 評論(11)  編輯 收藏 引用

            FeedBack:
            # re: 內存池實現 2009-11-12 08:54 cm
            crt這層已經使用內存池了。不過為什么自己再弄一層,性能會有提高?看看crt的實現可能更清楚點。  回復  更多評論
              
            # re: 內存池實現 2009-11-12 09:28 tangrongjun
            @cm
            除了垃圾收集技術外沒有任何一種算法可以解決內存碎片問題。特別是在多線程,高內存使用,長時間運行的環境下內存碎片絕對是頭號問題。以我的理解,自己內存管理最好不要整個進程空間進行--因為libc(linux環境)已經進行整個進程空間管理了。需要進行局部內存管理以我的經驗有兩個需求:一是局部化可以適應自己程序特殊的需要。二是可以隔離自己寫的動態庫對引用它的組件的影響。  回復  更多評論
              
            # re: 內存池實現[未登錄] 2009-11-12 09:49 關中刀客
            以前聽一個朋友說他們在linux上面,不需要實現內存池,因為linux自身的分配策略已經很高效了,他們都是直接的new/delete  回復  更多評論
              
            # re: 內存池實現 2009-11-12 11:28 xiaowang
            樓主,共享一下代碼吧  回復  更多評論
              
            # re: 內存池實現 2009-11-12 12:30 eXile
            用google的TCMalloc 直接替換malloc實現  回復  更多評論
              
            # re: 內存池實現 2009-11-12 14:27 OwnWaterloo
            同意cm的意見:緩存的層次越少越好。
            真要做,就直接與VirtualAlloc, mmap, sbrk交互,不通過crt。


            解決內存碎片的算法除了垃圾收集以外,也是存在的。
            但這個算法是要client端(內存的使用者)配合才行。
            如果內存分配器對內存的請求的方式一無所知,只靠猜測,這種generic內存分配器已經沒有提高余地了。
            要繼續提高內存分配效率,必須讓client告訴內存分配器他會以何種方式使用內存。內存分配器根據不同的使用方式來優化自己的算法。

            例如,假設實現一種類似<<c interfaces and implementations>>中的arena,并且不通過crt,直接使用VirtualAlloc。當arena被釋放的時候,確實就不存在任何碎片。

              回復  更多評論
              
            # re: 內存池實現 2009-11-12 19:44 LOGOS
            @eXile
            tcmalloc果然不錯,采用了。
            補充了新測評。

            @xiaowang
            網上到處有貼,我就不獻丑了
            你想要的話留個郵箱,私下發給你
              回復  更多評論
              
            # re: 內存池實現 2009-11-13 11:02 哦哦
            boost pool 就很不錯了  回復  更多評論
              
            # re: 內存池實現 2011-03-08 15:24 trueboy
            發一份給我啊: yzsb1118@gmail.com  回復  更多評論
              
            # re: 內存池實現 2011-03-08 16:02 trueboy
            @LOGOS
            發一份給我啊:yzsb1118@gmail.com  回復  更多評論
              
            # re: 內存池實現 2011-03-29 21:17 ladenol
            發一份代碼給我吧,最近正好要用,謝謝!
            dsapp@163.com  回復  更多評論
              
            久久A级毛片免费观看| 久久精品国产网红主播| 国产亚洲综合久久系列| 天天爽天天狠久久久综合麻豆| 青草久久久国产线免观| 蜜臀久久99精品久久久久久 | 亚洲人成网亚洲欧洲无码久久| 国产成人香蕉久久久久| 人人狠狠综合久久亚洲高清| 久久精品国产日本波多野结衣 | 男女久久久国产一区二区三区| A级毛片无码久久精品免费| 久久久精品人妻一区二区三区蜜桃| 精品熟女少妇av免费久久| 国产精品成人精品久久久| 手机看片久久高清国产日韩| 久久久国产精华液| 7国产欧美日韩综合天堂中文久久久久| 精品一久久香蕉国产线看播放 | 久久99精品久久久久久秒播| 亚洲欧美一区二区三区久久| 欧美黑人又粗又大久久久| 久久精品国产一区二区电影| 亚洲精品乱码久久久久久| 久久香蕉国产线看观看99| 久久精品青青草原伊人| 国产99久久久国产精免费| 亚洲AV日韩AV永久无码久久| 欧美亚洲日本久久精品| 国产一区二区三区久久| 波多野结衣AV无码久久一区| 久久99精品免费一区二区| 久久夜色精品国产网站| 久久天天躁狠狠躁夜夜2020老熟妇| 国产午夜福利精品久久2021| 久久久久久精品免费看SSS| 久久露脸国产精品| 狠狠色伊人久久精品综合网| 欧美精品一区二区精品久久| 国产成人久久精品激情| 韩国免费A级毛片久久|