２．實現(xiàn)部分
　　如果世界上從沒有一個壓縮程序，我們看了前面的壓縮原理，將有信心一定能作出一個可以壓縮大多數(shù)格式、內容的數(shù)據(jù)的程序，當我們著手要做這樣一個程序的時候，會發(fā)現(xiàn)有很多的難題需要我們去一個個解決，下面將逐個描述這些難題，并詳細分析 zip 算法是如何解決這些難題的，其中很多問題帶有普遍意義，比如查找匹配，比如數(shù)組排序等等，這些都是說不盡的話題，讓我們深入其中，做一番思考。

我們前面說過，對于短語式重復，我們用“重復距當前位置的距離”和“重復的長度”這兩個數(shù)字來表示這一段重復，以實現(xiàn)壓縮，現(xiàn)在問題來了，一個字節(jié)能表示的數(shù)字大小為 0 －255，然而重復出現(xiàn)的位置和重復的長度都可能超過 255，事實上，二進制數(shù)的位數(shù)確定下來后，所能表示的數(shù)字大小的范圍是有限的，ｎ位的二進制數(shù)能表示的最大值是２的ｎ次方減１，如果位數(shù)取得太大，對于大量的短匹配，可能不但起不到壓縮作用，反而增大了最終的結果。針對這種情況，有兩種不同的算法來解決這個問題，它們是兩種不同的思路。一種稱為 lz77 算法，這是一種很自然的思路：限制這兩個數(shù)字的大小，以取得折衷的壓縮效果。例如距離取 15 位，長度取 8 位，這樣，距離的最大取值為 32 k - 1，長度的最大取值為 255，這兩個數(shù)字占 23 位，比三個字節(jié)少一位，是符合壓縮的要求的。讓我們在頭腦中想象一下 lz77 算法壓縮進行時的情況，會出現(xiàn)有意思的模型：

　　　最遠匹配位置－＞　　　　　　　　　　當前處理位置－＞
───┸─────────────────╂─────────────＞壓縮進行方向
　　　已壓縮部分　　　　　　　　　　　　　┃　　　　未壓縮部分

　　在最遠匹配位置和當前處理位置之間是可以用來查找匹配的“字典”區(qū)域，隨著壓縮的進行，“字典”區(qū)域從待壓縮文件的頭部不斷地向后滑動，直到達到文件的尾部，短語式壓縮也就結束了。
　　解壓縮也非常簡單：

　　　　　　　　　┎────────拷貝────────┒
　匹配位置　　　　┃　　　　　　　　　　當前處理位置　　┃
　　　┃＜──匹配長度──＞┃　　　　　　　┠─────∨────┨
───┸──────────┸───────╂──────────┸─＞解壓進行方向
　　　已解壓部分　　　　　　　　　　　　　　┃　　　　未解壓部分

　　不斷地從壓縮文件中讀出匹配位置值和匹配長度值，把已解壓部分的匹配內容拷貝到解壓文件尾部，遇到壓縮文件中那些壓縮時未能得到匹配，而是直接保存的單、雙字節(jié)，解壓時只要直接拷貝到文件尾部即可，直到整個壓縮文件處理完畢。
　　lz77算法模型也被稱為“滑動字典”模型或“滑動窗口”模型。
　　另有一種lzw算法對待壓縮文件中存在大量簡單匹配的情況進行了完全不同的算法設計，它只用一個數(shù)字來表示一段短語，下面來描述一下lzw的壓縮解壓過程，然后來綜合比較兩者的適用情況。
　　lzw的壓縮過程：
1) 初始化一個指定大小的字典，把 256 種字節(jié)取值加入字典。
2) 在待壓縮文件的當前處理位置尋找在字典中出現(xiàn)的最長匹配，輸出該匹配在字典中的序號。
3) 如果字典沒有達到最大容量，把該匹配加上它在待壓縮文件中的下一個字節(jié)加入字典。
4) 把當前處理位置移到該匹配后。
5) 重復 2、3、4 直到文件輸出完畢。

　　lzw 的解壓過程：
1) 初始化一個指定大小的字典，把 256 種字節(jié)取值加入字典。
2) 從壓縮文件中順序讀出一個字典序號，根據(jù)該序號，把字典中相應的數(shù)據(jù)拷貝到解壓文件尾部。
3) 如果字典沒有達到最大容量，把前一個匹配內容加上當前匹配的第一個字節(jié)加入字典。
4) 重復 2、3 兩步直到壓縮文件處理完畢。

　　從 lzw 的壓縮過程，我們可以歸納出它不同于 lz77 算法的一些主要特點：
1) 對于一段短語，它只輸出一個數(shù)字，即字典中的序號。（這個數(shù)字的位數(shù)決定了字典的最大容量，當它的位數(shù)取得太大時，比如 24 位以上，對于短匹配占多數(shù)的情況，壓縮率可能很低。取得太小時，比如 8 位，字典的容量受到限制。所以同樣需要取舍。）
2) 對于一個短語，比如 abcd ，當它在待壓縮文件中第一次出現(xiàn)時，ab 被加入字典，第二次出現(xiàn)時，abc 被加入字典，第三次出現(xiàn)時，abcd 才會被加入字典，對于一些長匹配，它必須高頻率地出現(xiàn)，并且字典有較大的容量，才會被最終完整地加入字典。相應地，lz77 只要匹配在“字典區(qū)域”中存在，馬上就可以直接使用。
3) 設 lzw 的“字典序號”取 n 位，它的最大長度可以達到 2 的 n 次方；設 lz77 的“匹配長度”取 n 位，“匹配距離”取 d 位，它的最大長度也是 2 的 n 次方，但還要多輸出 d 位（d 至少不小于 n），從理論上說 lzw 每輸出一個匹配只要 n 位，不管是長匹配還是短匹配，壓縮率要比 lz77 高至少一倍，但實際上，lzw 的字典中的匹配長度的增長由于各匹配互相打斷，很難達到最大值。而且雖然 lz77 每一個匹配都要多輸出 d 位，但 lzw 每一個匹配都要從單字節(jié)開始增長起，對于種類繁多的匹配，lzw 居于劣勢。
　　可以看出，在多數(shù)情況下，lz77 擁有更高的壓縮率，而在待壓縮文件中占絕大多數(shù)的是些簡單的匹配時，lzw 更具優(yōu)勢，GIF 就是采用了 lzw 算法來壓縮背景單一、圖形簡單的圖片。zip 是用來壓縮通用文件的，這就是它采用對大多數(shù)文件有更高壓縮率的 lz77 算法的原因。

　　接下來 zip 算法將要解決在“字典區(qū)域”中如何高速查找最長匹配的問題。

（注：以下關于技術細節(jié)的描述是以 gzip 的公開源代碼為基礎的，如果需要完整的代碼，可以在 gzip 的官方網站 www.gzip.org 下載。下面提到的每一個問題，都首先介紹最直觀簡單的解決方法，然后指出這種方法的弊端所在，最后介紹 gzip 采用的做法，這樣也許能使讀者對 gzip 看似復雜、不直觀的做法的意義有更好的理解。）
最直觀的搜索方式是順序搜索：以待壓縮部分的第一個字節(jié)與窗口中的每一個字節(jié)依次比較，當找到一個相等的字節(jié)時，再比較后續(xù)的字節(jié)…… 遍歷了窗口后得出最長匹配。gzip 用的是被稱作“哈希表”的方法來實現(xiàn)較高效的搜索。“哈希（hash）”是分散的意思，把待搜索的數(shù)據(jù)按照字節(jié)值分散到一個個“桶”中，搜索時再根據(jù)字節(jié)值到相應的“桶”中去尋找。短語式壓縮的最短匹配為 3 個字節(jié)，gzip 以 3 個字節(jié)的值作為哈希表的索引，但 3 個字節(jié)共有 2 的 24 次方種取值，需要 16M 個桶，桶里存放的是窗口中的位置值，窗口的大小為 32K，所以每個桶至少要有大于兩個字節(jié)的空間，哈希表將大于 32M，作為 90 年代開發(fā)的程序，這個要求是太大了，而且隨著窗口的移動，哈希表里的數(shù)據(jù)會不斷過時，維護這么大的表，會降低程序的效率，gzip 定義哈希表為 2 的 15 次方（32K）個桶，并設計了一個哈希函數(shù)把 16M 種取值對應到 32K 個桶中，不同的值被對應到相同的桶中是不可避免的，哈希函數(shù)的任務是 1.使各種取值盡可能均勻地分布到各個桶中，避免許多不同的值集中到某些桶中，而另一些是空桶，使搜索的效率降低。2.函數(shù)的計算盡可能地簡單，因為每次“插入”和“搜尋”哈希表都要執(zhí)行哈希函數(shù)，哈希函數(shù)的復雜度直接影響程序的執(zhí)行效率，容易想到的哈希函數(shù)是取 3 個字節(jié)的左邊（或右邊）15 位二進制值，但這樣只要左邊（或右邊）2 個字節(jié)相同，就會被放到同一個桶中，而 2 個字節(jié)相同的概率是比較高的，不符合“平均分布”的要求。gzip 采用的算法是：A(4,5) + A(6,7,8) ^ B(1,2,3) + B(4,5) + B(6,7,8) ^ C(1,2,3) + C(4,5,6,7,8) （說明：A 指 3 個字節(jié)中的第 1 個字節(jié)，B 指第 2 個字節(jié)，C 指第 3 個字節(jié)，A(4,5) 指第一個字節(jié)的第 4,5 位二進制碼，“^”是二進制位的異或操作，“+”是“連接”而不是“加”，“^”優(yōu)先于“+”）這樣使 3 個字節(jié)都盡量“參與”到最后的結果中來，而且每個結果值 h 都等于 ((前1個h << 5) ^ c)取右 15 位，計算也還簡單。
哈希表的具體實現(xiàn)也值得探討,因為無法預先知道每一個“桶”會存放多少個元素，所以最簡單的，會想到用鏈表來實現(xiàn)：哈希表里存放著每個桶的第一個元素，每個元素除了存放著自身的值，還存放著一個指針，指向同一個桶中的下一個元素，可以順著指針鏈來遍歷該桶中的每一個元素，插入元素時，先用哈希函數(shù)算出該放到第幾個桶中，再把它掛到相應鏈表的最后。這個方案的缺點是頻繁地申請和釋放內存會降低運行速度；內存指針的存放占據(jù)了額外的內存開銷。有更少內存開銷和更快速的方法來實現(xiàn)哈希表，并且不需要頻繁的內存申請和釋放：gzip 在內存中申請了兩個數(shù)組，一個叫 head[]，一個叫 pre[]，大小都為 32K，根據(jù)當前位置 strstart 開始的 3 個字節(jié)，用哈希函數(shù)計算出在 head[] 中的位置 ins_h，然后把 head[ins_h] 中的值記入 pre[strstart]，再把當前位置 strstart 記入 head[ins_h]。隨著壓縮的進行，head[]里記載著最近的可能的匹配的位置（如果有匹配的話，head[ins_h]不為 0），pre[]中的所有位置與原始數(shù)據(jù)的位置相對應，但每一個位置保存的值是前一個最近的可能的匹配的位置。（“可能的匹配”是指哈希函數(shù)計算出的 ins_h 相同。）順著 pre[] 中的指示找下去，直到遇到 0，可以得到所有匹配在原始數(shù)據(jù)中的位置，0 表示不再有更遠的匹配。
　　接下來很自然地要觀察 gzip 具體是如何判斷哈希表中數(shù)據(jù)的過時，如何清理哈希表的，因為 pre[] 里只能存放 32K 個元素，所以這項工作是必須要做的。
　　gzip 從原始文件中讀出兩個窗口大小的內容（共 64K 字節(jié)）到一塊內存中，這塊內存也是一個數(shù)組，稱作 Window[]；申請 head[]、pre[] 并清零；strstart 置為 0。然后 gzip 邊搜索邊插入，搜索時通過計算 ins_h，檢查 head[] 中是否有匹配，如果有匹配，判斷 strstart 減 head[] 中的位置是否大于 1 個窗口的大小，如果大于 1 個窗口的大小，就不到 pre[] 中去搜索了，因為 pre[] 中保存的位置更遠了，如果不大于，就順著 pre[] 的指示到 Window[] 中逐個匹配位置開始，逐個字節(jié)與當前位置的數(shù)據(jù)比較，以找出最長匹配，pre[] 中的位置也要判斷是否超出一個窗口，如遇到超出一個窗口的位置或者 0 就不再找下去，找不到匹配就輸出當前位置的單個字節(jié)到另外的內存（輸出方法在后文中會介紹），并把 strstart 插入哈希表，strstart 遞增，如果找到了匹配，就輸出匹配位置和匹配長度這兩個數(shù)字到另外的內存中，并把 strstart 開始的，直到 strstart + 匹配長度 為止的所有位置都插入哈希表，strstart += 匹配長度。插入哈希表的方法為：
pre[strstart % 32K] = head[ins_h];
head[ins_h] = strstart;
可以看出，pre[] 是循環(huán)利用的，所有的位置都在一個窗口以內，但每一個位置保存的值不一定是一個窗口以內的。在搜索時，head[] 和 pre[] 中的位置值對應到 pre[] 時也要 % 32K。當 Window[] 中的原始數(shù)據(jù)將要處理完畢時，要把 Window[] 中后一窗的數(shù)據(jù)復制到前一窗，再讀取 32K 字節(jié)的數(shù)據(jù)到后一窗，strstart -= 32K，遍歷 head[]，值小于等于 32K 的，置為 0，大于 32K 的，-= 32K；pre[] 同 head[] 一樣處理。然后同前面一樣處理新一窗的數(shù)據(jù)。
　　分析：現(xiàn)在可以看到，雖然 3 個字節(jié)有 16M 種取值，但實際上一個窗口只有 32K 個取值需要插入哈希表，由于短語式重復的存在，實際只有 < 32K 種取值插入哈希表的 32K 個“桶”中，而且哈希函數(shù)又符合“平均分布”的要求，所以哈希表中實際存在的“沖突”一般不會多，對搜索效率的影響不大。可以預計，在“一般情況”下，每個“桶”中存放的數(shù)據(jù)，正是我們要找的。哈希表在各種搜索算法中，實現(xiàn)相對的比較簡單，容易理解，“平均搜索速度”最快，哈希函數(shù)的設計是搜索速度的關鍵，只要符合“平均分布”和“計算簡單”，就常常能成為諸種搜索算法中的首選，所以哈希表是最流行的一種搜索算法。但在某些特殊情況下，它也有缺點，比如：1.當鍵碼 k 不存在時，要求找出小于 k 的最大鍵碼或大于 k 的最小鍵碼，哈希表無法有效率地滿足這種要求。2.哈希表的“平均搜索速度”是建立在概率論的基礎上的，因為事先不能預知待搜索的數(shù)據(jù)集合，我們只能“信賴”搜索速度的“平均值”，而不能“保證”搜索速度的“上限”。在同人類性命攸關的應用中（如醫(yī)療或宇航領域），將是不合適的。這些情況及其他一些特殊情況下，我們必須求助其他“平均速度”較低，但能滿足相應的特殊要求的算法。（見《計算機程序設計藝術》第3卷 排序與查找）。幸而“在窗口中搜索匹配字節(jié)串”不屬于特殊情況。

時間與壓縮率的平衡：
gzip 定義了幾種可供選擇的 level，越低的 level 壓縮時間越快但壓縮率越低，越高的 level 壓縮時間越慢但壓縮率越高。
不同的 level 對下面四個變量有不同的取值：

nice_length
max_chain
max_lazy
good_length

nice_length：前面說過，搜索匹配時，順著 pre[] 的指示到 Window[] 中逐個匹配位置開始，找出最長匹配，但在這過程中，如果遇到一個匹配的長度達到或超過 nice_length，就不再試圖尋找更長的匹配。最低的 level 定義 nice_length 為 8，最高的 level 定義 nice_length 為 258（即一個字節(jié)能表示的最大短語匹配長度 3 + 255）。

max_chain：這個值規(guī)定了順著 pre[] 的指示往前回溯的最大次數(shù)。最低的 level 定義 max_chain 為 4，最高的 level 定義 max_chain 為 4096。當 max_chain 和 nice_length 有沖突時，以先達到的為準。

max_lazy：這里有一個懶惰匹配（lazy match）的概念，在輸出當前位置（strstart）的匹配之前，gzip 會去找下一個位置（strstart + 1）的匹配，如果下一個匹配的長度比當前匹配的長度更長，gzip 就放棄當前匹配，只輸出當前位置處的首個字節(jié)，然后再查找 strstart + 2 處的匹配，這樣的方式一直往后找，如果后一個匹配比前一個匹配更長，就只輸出前一個匹配的首字節(jié)，直到遇到前一個匹配長于后一個匹配，才輸出前一個匹配。
gzip 作者的思路是，如果后一個匹配比前一個匹配更長，就犧牲前一個匹配的首字節(jié)來換取后面的大于等于1的額外的匹配長度。
max_lazy 規(guī)定了，如果匹配的長度達到或超過了這個值，就直接輸出，不再管后一個匹配是否更長。最低的4級 level 不做懶惰匹配，第5級 level 定義 max_lazy 為 4，最高的 level 定義 max_lazy 為 258。

good_length：這個值也和懶惰匹配有關，如果前一個匹配長度達到或超過 good_length，那在尋找當前的懶惰匹配時，回溯的最大次數(shù)減小到 max_chain 的 1/4，以減少當前的懶惰匹配花費的時間。第5級 level 定義 good_length 為 4（這一級等于忽略了 good_length），最高的 level 定義 good_length 為 32。

分析：懶惰匹配有必要嗎？可以改進嗎？
gzip 的作者是無損壓縮方面的專家，但是世界上沒有絕對的權威，吾愛吾師，更愛真理。我覺得 gzip 的作者對懶惰匹配的考慮確實不夠周詳。只要是進行了認真客觀的分析，誰都有權利提出自己的觀點。
采用懶惰匹配，需要對原始文件的更多的位置查找匹配，時間肯定增加了許多倍，但壓縮率的提高在總體上十分有限。在幾種情況下，它反而增長了短語壓縮的結果，所以如果一定要用懶惰匹配，也應該改進一下算法，下面是具體的分析。
1. 連續(xù)3次以上找到了更長的匹配，就不應該單個輸出前面的那些字節(jié)，而應該作為匹配輸出。
2. 于是，如果連續(xù)找到更長的匹配的次數(shù)大于第一個匹配的長度，對于第一個匹配，相當于沒有做懶惰匹配。
3. 如果小于第一個匹配的長度但大于2，就沒有必要作懶惰匹配，因為輸出的總是兩個匹配。
4. 所以找到一個匹配后，最多只需要向后做 2 次懶惰匹配，就可以決定是輸出第一個匹配，還是輸出1（或 2）個首字節(jié)加后面的匹配了。
5. 于是，對于一段原始字節(jié)串，如果不做懶惰匹配時輸出兩個匹配（對于每個匹配，距離占15位二進制數(shù)，長度占8位二進制數(shù)，加起來約占3字節(jié)，輸出兩個匹配約需要6字節(jié)），做了懶惰匹配如果有改進的話，將是輸出1或2個單字節(jié)加上1個匹配（也就是約4或5字節(jié)）。這樣，懶惰匹配可以使某些短語壓縮的結果再縮短1/3到1/6。
6. 再觀察這樣一個例子：
1232345145678[當前位置]12345678
不用懶惰匹配，約輸出6字節(jié)，用懶惰匹配，約輸出7字節(jié)，由于使用了懶惰匹配，把更后面的一個匹配拆成了兩個匹配。（如果 678 正好能歸入再后面的一個匹配，那懶惰匹配可能是有益的。）
7. 綜合考慮各種因素（匹配數(shù)和未匹配的單雙字節(jié)在原始文件中所占的比例，后一個匹配長度大于前一個匹配長度的概率，等等），經過改進的懶惰匹配算法，對總的壓縮率即使有貢獻，也仍是很小的，而且也仍然很有可能會降低壓縮率。再考慮到時間的確定的明顯的增加與壓縮率的不確定的微弱的增益，也許最好的改進是果斷地放棄懶惰匹配。

gzip 在完成短語式壓縮后，將轉入編碼式壓縮的階段。這個階段的實現(xiàn)是很復雜的，對最終的壓縮率至關重要，我會詳細解說 gzip 的做法。gzip 是開放源代碼的無損壓縮程序中最著名的，其中的種種技巧很有啟發(fā)意義，但是他是比較早期的程序，現(xiàn)在有很多的程序已經在壓縮率上超過了它，所以我會根據(jù)自己對無損壓縮的基本規(guī)律的理解提出對它的改進。

編碼式壓縮的幾點考慮：
1. huffman 算法壓縮率的關鍵是各節(jié)點值的差異要大，這樣就要求分段編碼輸出。因為某些段落中某些節(jié)點的出現(xiàn)頻率較高，另一些段落中這些節(jié)點出現(xiàn)頻率較低，如果不分段輸出，頻率的差異會被彼此抵消，而不同段落中，節(jié)點的出現(xiàn)頻率不同是常有的。
　　要決定分段的大小，必須解決一對矛盾：上面的分析似乎要求段落越小越好，但由于要保存碼表以對 huffman 壓縮結果進行解壓，每個段落都要保存一份不同的碼表，所以段落取得太小，保存了碼表后得不償失，這樣，似乎又要求段落要盡量大，使碼表的保存份數(shù)盡量少。
　　gzip 采取了這樣的策略來確定段落的大小：lz77 壓縮每產生 4k（小）的數(shù)據(jù)，就判斷現(xiàn)在對未編碼部分進行編碼輸出是否合適，最多積壓到 32k（大）的時候，必定進行強制輸出，因為平庸的數(shù)據(jù)積壓得太多，后面即使有好的數(shù)據(jù)，頻率統(tǒng)計在一起，也會被平庸化。
　　判斷當前輸出合適與否的條件是：1)用預先設定好的各節(jié)點長度和各節(jié)點實際的出現(xiàn)次數(shù)，計算壓縮結果的大概值，看這個值是否小于未壓縮時的 1/2。2)看目前為止的匹配數(shù)是否小于未匹配的字節(jié)數(shù)，因為 lz77 壓縮產生的數(shù)據(jù)包括“匹配”和“未匹配的原始字節(jié)”，段落間的節(jié)點頻率差異主要體現(xiàn)在“未匹配的原始字節(jié)”中。
　　上面的判斷只是一種“猜測”，真正的精確的計算需要花費更多的時間。
　　我覺得 gzip 的策略可以改進，我的策略是：1)輸出的時機是壓縮率的關鍵之一，現(xiàn)在計算機的速度和九十年代時已經今非昔比，現(xiàn)在完全有條件采用真正的建 huffman 樹的方法得到各節(jié)點的碼長，作精確的判斷。2)不應該與未壓縮的原始數(shù)據(jù)比較，而應該與 lz77 輸出的數(shù)據(jù)比較，否則計算出的壓縮比很大一部分是短語式壓縮的功勞。3)由于采用了真正的建 huffman 樹的方法，不用再去做匹配數(shù)與未匹配的字節(jié)數(shù)的比較，因為那只是一種猜測。4)每 4k 的數(shù)據(jù)都單獨統(tǒng)計頻率，如果是合適的，就先輸出之前的積壓（如果有的話），再輸出當前的 4k，這樣可以避免當前的數(shù)據(jù)被積壓的數(shù)據(jù)平庸化。如果不合適，就把當前的頻率歸入到積壓的數(shù)據(jù)（如果有）的頻率中，再判斷是否合適，如仍不合適就暫緩輸出，否則一起輸出，這和 gzip 的作法是一樣的。說明：幾段差的數(shù)據(jù)積壓到一起仍有可能成為好的數(shù)據(jù)，比如 01、 02、……積壓在一起，0 的頻率逐漸高出了其他字節(jié)。5)如果愿意付出更多的時間，在把當前的頻率歸入之前的頻率時，可以先和之前 4k 的頻率合并，如果不合適，和之前 8k 的頻率合并，這樣逐漸往前合并 4k，避免前面不好的數(shù)據(jù)拖累合并后的好的數(shù)據(jù)。6)有了前面的機制，32k 的強制輸出點可以取消。7)進一步的改進：當要輸出時，只輸出積壓的不好的部分，好的數(shù)據(jù)先留著，等后面的 4k，如果新的加入后，仍是好的數(shù)據(jù)，就再等，如果會降低壓縮率，才輸出好的部分。這樣，讓好的數(shù)據(jù)大段的輸出，可以減少碼表的保存份數(shù)。8)再進一步的改進：壞的數(shù)據(jù)放在一起可能會提高壓縮率，好的數(shù)據(jù)放在一起也可能更好，當然，兩種情況也都有可能降低壓縮率，所以前面判斷“好”還是“不好”，“合適”還是“不合適”的標準應該從某一個固定的壓縮率標準改變?yōu)椋禾岣吡藟嚎s率還是降低了壓縮率。（提高的幅度應該至少抵消多保存一份碼表的損失；降低的幅度也應該至少抵消少保存一份碼表的得益）9)綜合前面的分析，確定分段大小的策略最終調整為：當新的數(shù)據(jù)和前面的未切分數(shù)據(jù)放在一起時，兩者中任何一方受到損失，都應該設置切分點，積累了兩個分段后，通過計算，當切分帶來的收益大于少保存一份碼表時，才輸出前一段，否則取消它們之間的切分點。這個策略實際上可以涵蓋前面提到的所有改進，因為每個實際的分段之中的數(shù)據(jù)或者相互促進，或者彼此稍有妨害，但好過多保存一份碼表；而每兩個相鄰的分段之間的數(shù)據(jù)彼此妨害，抵消了少保存一份碼表的收益。這個策略簡單直觀地體現(xiàn)了我們設置分段的初衷：就是分段輸出必須能提高壓縮率。

2. 如果不考慮碼表，huffman 算法能得到最短的編碼式壓縮結果，但是這種算法必須保存碼表以便解壓縮，所以不能保證結果是最佳的。gzip 預先擬定了一套通用的靜態(tài)的編碼，當要輸出一個段落時，比較 huffman 壓縮結果加碼表的長度和靜態(tài)編碼的壓縮結果長度，再決定用哪種方法輸出這個段落。靜態(tài)編碼不需要建樹，計算壓縮結果長度時耗時很少。如果各節(jié)點的頻率的差異很小，huffman 壓縮結果加碼表反而增大了結果，靜態(tài)編碼也不合適，同樣增大了結果，gzip 就直接保存 lz77 的原始輸出。由于輸出一個段落時，增加了靜態(tài)編碼的方案，使輸出的實際長度和之前確定分段點時計算的值可能不同，那么前面計算出的這個分段點是否仍是正確的？前面的分段策略是否需要調整？
　　分析：1)靜態(tài)編碼的各節(jié)點編碼是不變的，對于段落的合并是無所謂的，兩個連續(xù)段落即使都采用靜態(tài)編碼，也不用合并，因為合并后結果長度是不會變的。2)所以只對一種情況可能有影響：一個段落中拆分出一些部分用 huffman 編碼，另一些部分用靜態(tài)編碼，壓縮結果更好。當這種情況發(fā)生時，則必有一些部分的優(yōu)勢節(jié)點（頻率高的節(jié)點）與靜態(tài)編碼預先擬定的優(yōu)勢節(jié)點相近，采用靜態(tài)編碼后有稍許改善，其他部分則與靜態(tài)編碼預先擬定的優(yōu)勢節(jié)點有一定分歧，采用靜態(tài)編碼后會有稍許不利。之所以說“稍許”，是因為我們已知同一個段落里的各部分數(shù)據(jù)或者互相促進，或者僅有稍許妨害，說明它們的優(yōu)勢節(jié)點是大致趨同的。考慮到拆分后可能要多保存幾份碼表，拆分帶來收益的可能性和程度是很小的，而且計算的復雜度較大，所以前面的拆分策略可以不作調整。
　　至于直接保存 lz77 的原始輸出，可以看作靜態(tài)編碼的一種特殊形式，只不過它假定各節(jié)點的頻率相近，沒有優(yōu)勢節(jié)點。它可以套用靜態(tài)編碼的分析，來證明不影響前面已經制定的分段策略。

3.采用 huffman 編碼，必須深入研究碼表的保存方式。
　　只要計算一下采用簡單的方式來保存碼表，需要多大的空間，就知道這是一個挑戰(zhàn)。
　　簡單地保存碼表的方法是順序地保存每一個值的碼長和編碼。之所以要保存碼長，是因為編碼是不定長的，沒有碼長，解壓時無法正確讀取編碼。碼長必須是定長的，也就是說必須限制 huffman 樹的最大層數(shù)，使碼長的位數(shù)能恰好表示這個層數(shù)。限制 huffman 樹的最大層數(shù)的方法是：如果規(guī)定的最大層數(shù)為 n，則在 n - 1 層找到一個葉子節(jié)點 a（如果 n - 1 層沒有葉子節(jié)點，就逐層地往上尋找，直到找到一個葉子節(jié)點），在節(jié)點 a 的位置放一個非葉子節(jié)點 A，使 a 成為 A 的子節(jié)點，把某個超過 n 層的葉子節(jié)點 b 提上來作為 A 的另一個子節(jié)點，此時 b 的父節(jié)點 B 只剩下一個子節(jié)點 c，取消 B，把 c 放在 B 的位置，重復這樣的過程，直到所有 n 層以下的節(jié)點都被提上來。之所以要從 n - 1 層開始逐層往上找，是因為下層的節(jié)點頻率小，碼長變化后的影響小。假設每一層節(jié)點的頻率相近，那么上層父節(jié)點的頻率是其下層子節(jié)點的兩倍，第 11 層節(jié)點的頻率只有第一層節(jié)點頻率的 1 / 1024，所以應該從下往上找。
　　現(xiàn)在就開始計算碼表大小：
　　對于 256 個原始字節(jié)值，限制它的 huffman 樹的層數(shù)為 0 － 15，碼長就需要 4 位，256 個碼長需要 4 bit * 256 = 128 字節(jié)；而 256 個新編碼需要至少 256 字節(jié)。（當二叉樹的所有葉子節(jié)點都放在第 8 層 —— 不算根節(jié)點一層，正好能放下 2 的 8 次方 = 256 個葉子節(jié)點，其中任何一個葉子節(jié)點往上升，至少造成兩個葉子節(jié)點往下降。換一個角度說，如果在第 8 層以上存在一個葉子節(jié)點 a，在節(jié)點 a 的位置放一個非葉子節(jié)點 A，使 a 成為 A 的子節(jié)點，把某個超過 8 層的葉子節(jié)點 b 提上來作為 A 的另一個子節(jié)點，此時 b 的父節(jié)點 B 只剩下一個子節(jié)點 c，取消 B，把 c 放在 B 的位置，此時 a 增長了一位，c 縮短了一位，b 縮短了至少一位，編碼的平均位長縮短。所以，當?shù)?8 層以上不存在葉子節(jié)點，所有葉子節(jié)點都放在第 8 層時，編碼的平均位長達到最短 —— 8位。）這套碼表共需至少 128 + 256 = 384 字節(jié)。
　　256 個“匹配長度”的情況與原始字節(jié)值相同，兩套碼表共需至少 384 * 2 = 768 字節(jié)。
　　對于 32k 個“匹配距離”，如果限制該 huffman 樹的層數(shù)為 0 － 31，保存每個值的碼長需要 5 位，新編碼的平均長度超過 15 位。（因為所有葉子節(jié)點都放在第 15 層 —— 不算根節(jié)點一層，正好能放下 2 的 15 次方 = 32k 個葉子節(jié)點。）這套碼表要超過80k 字節(jié)（ (5 + 15) * 32k / 8 = 80k ）。
　　前面討論分段策略時已經說過，為了避免個段落間節(jié)點頻率差異被互相抵消，要求段落劃分盡量細致、準確，最小的段落可以僅為 4k，而采用上面這種簡單的方式，碼表要超過 80k，顯然是無法接受的。
　　對碼表的保存方式的深入研究，確實是個無法繞開的挑戰(zhàn)，如果不攻克這個難關，編碼式壓縮無法進行下去！挑戰(zhàn)會帶來樂趣，困難會激發(fā)豪情。我們所要做的是：觀察 gzip 如何一步步地通過繁復但又巧妙的做法解決這個難題，對其中的做法的道理務求知其然、知其所以然，通過觀察、思考，把握無損壓縮內在的、深層的、本質的規(guī)律！事實上，對 gzip 的這些做法進行閱讀（源代碼）、分析、挖掘其中的智慧，本身就是一個對智慧、耐力、乃至決心的長期的挑戰(zhàn)，我接受了這個挑戰(zhàn)，并把它描述、解釋出來，讀者面對的挑戰(zhàn)是花費較長期的時間去閱讀、理解，希望讀者完全有耐力、豪情、興趣來接受這個挑戰(zhàn)，深化自己的技術層次、思維層次。

3.1 只保存碼長，并增加一些特殊的值。

3.1.1 把 huffman 樹的每一層上的葉子節(jié)點都換到該層的左邊，按照其原始值從小到大依次排列，非葉子節(jié)點則集中在該層右邊，這時仍是一棵二叉樹，得到的編碼仍符合前綴編碼的要求。每個葉子節(jié)點的編碼長度不變，所以壓縮率也不變。僅需要按照原始值從小到大依次保存每個值的碼長，解壓時就可以還原這套編碼表，還原方法是：碼長為 n 的第一個值的編碼是碼長為 n - 1 的最后一個值的編碼加 1，并左移一位（也就是說，在編碼最后加個 0），而碼長為 n 的其他值的編碼是前一個碼長為 n 的值的編碼加 1。從上面所說的樹的角度來解釋，每一層的第一個葉子節(jié)點是其上層最后一個葉子節(jié)點的右邊一個節(jié)點的左子節(jié)點，所以它的編碼是上層最后一個葉子節(jié)點的編碼加 1 并左移一位，而每一層上的葉子節(jié)點都緊密排列，所以除了第一個葉子節(jié)點外，其他葉子節(jié)點的編碼都是前一個葉子節(jié)點的編碼加 1。編程上的實現(xiàn)方法是：遍歷碼表，得到每個碼長(n)上有多少個值，計算出每個碼長上第一個值的編碼，放在數(shù)組 bit_len[]中，再次遍歷碼表，依次根據(jù)每個值的碼長(n)，賦予它的編碼為該碼長上的前一個值的編碼 (bit_len[n]) 加 1，bit_len[n] ++。
　　由于只需要保存碼長，現(xiàn)在碼表由超過 80k 字節(jié)減小到約 20k 字節(jié)。

3.1.2 如何只保存在段落中出現(xiàn)過的節(jié)點（有效節(jié)點）的編碼？
　　一個 ASCⅡ文本，128 以后的值是不會在文件中出現(xiàn)的，按照 3.1.1 的方法，碼表中后半部分（都是 0）在解壓縮時是用不到的。為了避免這類浪費，只保存有效節(jié)點（碼長不為 0 的節(jié)點），一種方法是保存有效節(jié)點的原始值和新編碼的碼長，當有效節(jié)點超過所有節(jié)點的1/4，這種方法保存的碼表的大小會超過 3.1.1 的方法。
　　gzip 采用的方法是：在 3.1.1 的基礎上，于若干種碼長之外，增加一些特殊的值，他們表示當前為之前一個碼長或 0 碼長（無效節(jié)點）的重復，遇到這種值，那后面的一個數(shù)字表示重復的次數(shù)。第一種值代表當前為之前一個碼長的重復 3 － 6 次，后面跟著 2 bit 為具體的重復次數(shù)；第二種值代表當前為 0 碼長的重復 3 － 10 次，后面跟著 3 bit 為具體的重復次數(shù)；第三種值代表當前為 0 碼長的重復 11 － 138 次，后面跟著 7 bit 為具體的重復次數(shù)。限制最小重復次數(shù)為 3，可以確保這種方法得到的碼表不會大過 3.1.1。第一種值限制最大重復次數(shù)為 6，是因為連續(xù) 6 個值以上的碼長相等（說明頻率十分接近）的情況不常見，做這個限制可以節(jié)省附加 bit；第二第三種值區(qū)分重復次數(shù)的范圍，也是為了節(jié)省附加 bit。在只有少數(shù)有效節(jié)點的情況下，這種方法只需要保存較少的數(shù)據(jù)，同時也具有簡單的去重復的作用。
　　如果最大碼長是 15，0 － 15 共 16 種值，一個碼長需要 4 位，加上上面 3 種值，共 19 種值，需要 5 位，在重復不多時，加了這 3 種值，是不是會增大碼表？其實不用擔心，gzip 會對碼表再進行一次 huffman 壓縮，根據(jù)這 19 種值的頻率分配給它們可變碼長的編碼，不會造成浪費，由于涉及到一些其他情況，對碼表的再編碼壓縮在后面還會詳細介紹！

3.2 把原始字節(jié)值和匹配長度值建在一棵樹上。
　　現(xiàn)在先考慮另一個問題：如何使解壓時能區(qū)分當前是一個未匹配的字節(jié)，還是一個匹配？未匹配字節(jié)值和匹配長度、匹配距離是三棵不同的 huffman 樹，它們的編碼互相不符合前綴編碼的要求，部分節(jié)點甚至可能編碼相同，解壓時如何區(qū)分？
　　第一種方法是用標志位。輸出壓縮結果時，除了輸出每一段的碼表、重新編碼后的數(shù)據(jù)流，還要保存對應于這一段數(shù)據(jù)的標志位流，流中的每一位 0 或 1 表示當前是一個未匹配的字節(jié)，還是一個匹配。
　　第二種方法是給原始字節(jié)值和匹配長度值不同的編碼，并符合前綴編碼的要求。最好的做法是把它們建在一棵樹上，以確保它們符合前綴編碼的要求，并由它們的頻率來確定各自的碼長。
　　第一種方法相當于原始字節(jié)值和匹配長度值的編碼都增長一位。
　　第二種方法中這兩套節(jié)點的碼長變化要根據(jù)具體節(jié)點各自的頻率而定。
　　經過分析，第二種方法更好，因為第一種方法可以看作是第二種方法的變種，相當于簡單地在兩棵 huffman 樹的根節(jié)點上再加一個父節(jié)點，這樣顯然是不能保證最佳的結果的。

3.3 把匹配長度、匹配距離變?yōu)殚L度范圍、距離范圍，減少節(jié)點。
　　經過上面對保存碼表的方法的改進后，現(xiàn)在碼表還有多大？
　　由于有了上面介紹的去重復機制，碼表的實際大小和節(jié)點的重復情況有關，如果有很多連續(xù) 3 個以上節(jié)點的碼長相等的情況出現(xiàn)，或有很多連續(xù) 3 個以上的無效節(jié)點的情況出現(xiàn)，碼表可能是很小的，但作為通用的無損壓縮算法，必須考慮重復不多的情況。“匹配距離”是碼表中最主要的部分，我們來分析一下它的重復情況，“匹配距離”共有 32k 個取值，如果一個段落不到 32k，“匹配距離”的有效節(jié)點數(shù)當然是不可能到 32k 的，思考一下，可以知道，它的有效節(jié)點數(shù)和這樣幾個因素有關：一段有多長，段落中匹配數(shù)和未匹配數(shù)的比例，決定了它有多少個值，再加上這些值的重復性，決定了它有多少個有效節(jié)點。再分析一下這些值的重復性：不同于原始字節(jié)和“匹配長度”都只有 256 個取值，它有 32k 個取值，相同的匹配有相同的匹配長度但不一定有相同的匹配距離，所以它的去值范圍廣，重復率低，有效節(jié)點多。雖然實際的情況無法預測，但我們可以做一些“大致合理”的假設，以便對碼表的大小有一個基本的概念，假如短語式壓縮的輸出段落的大小為 90k 字節(jié)，其中未匹配字節(jié)數(shù)和匹配數(shù)的比例為 3 : 1，每個未匹配字節(jié)占 8 位；每個匹配中，長度占 8 位，距離占 15 位，共 23 位，約為未匹配字節(jié)的 3 倍，所以匹配占了 90k 字節(jié)中的約 45k 字節(jié)，匹配數(shù)約 15k 個，也就是說有 15k 個距離值，假如距離值的平均節(jié)點頻率為 3，那么去掉重復后有 5k 個有效距離值節(jié)點，保存到碼表時每個碼長需要 5 位，保存 5k 個碼長需要 5k * 5 / 8 約 3k 字節(jié)，算上無效節(jié)點、碼長的重復的因素，原始字節(jié)值、匹配長度的保存，最終碼表約 5k 字節(jié)，為 90k 的 18 分之一。當段落減小時，有效節(jié)點趨于稀疏，無效節(jié)點容易連成片，去重復機制能發(fā)揮更大的作用；當段落增大時，無效節(jié)點密度減小，可能無法大片連接，去重復機制的效用降低，碼表的比例可能會增大。一旦“匹配距離”需要保存的碼長數(shù)達到了 32k個，碼表達到最大，之后段落再增大也不會增大碼表，于是碼表的比例又會逐漸下降。當然段落通常不會達到這么大，使得“匹配距離”需要保存的碼長數(shù)能有機會達到 32k。
　　gzip 以犧牲壓縮率的代價來換取碼表的進一步的大幅度減小。我們先描述一下它的具體做法，再來分析其利弊。
　　gzip 把匹配長度劃成 29 個范圍，把匹配距離劃成 30 個范圍，根據(jù)每個范圍中節(jié)點的總頻率，為 29 個長度范圍加 258 個字節(jié)值建 huffman 樹：l_tree，為 30 個距離范圍建 huffman 樹：d_tree。輸出一個值時先輸出該值所在范圍的編碼，再輸出附加碼，即它是該范圍中的第幾個值。這樣碼表中只需保存范圍的碼長。范圍的大小都是 2 的乘方，所以范圍大小和附加碼的位長是互相決定的。
29 個長度范圍的附加碼位長是：
{0,0,0,0,0,0,0,0,1,1,1,1,2,2,2,2,3,3,3,3,4,4,4,4,5,5,5,5,0};
30 個距離范圍的附加碼位長是：
{0,0,0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,8,8,9,9,10,10,11,11,12,12,13,13};
可以看出：范圍的劃分是從小到大的。為什么不平均劃分呢？
　　如果仍以單個節(jié)點的角度來看，被分到同一范圍的節(jié)點相當于被賦予了相同的碼長：范圍編碼的碼長加附加碼的碼長。若頻率差別很大的節(jié)點因劃分入同一個范圍而擁有相同的碼長，就不符合 huffman 編碼的初衷，會對壓縮率產生不良影響。因此要求劃分后，范圍里的節(jié)點頻率相近，以盡量降低同一個范圍里不同節(jié)點間的相互影響。
　　“匹配長度”從短到長，頻率會逐漸衰減，而且衰減的幅度有從大到小的特點，這個特點是在大多數(shù)原始文件中“自然存在”的。比如在 google 上搜索，2 個字的短語和 22 個字的短語，搜到的結果數(shù)差別巨大，200 個字和 220 個字，搜到的結果數(shù)差別就沒有那么大。頻率大致上單向地逐步變化，所以劃分范圍后，范圍內節(jié)點的頻率較接近；變化速度由大到小，所以范圍的劃分應該從小到大。
　　“匹配距離”也有類似的特點，對大多數(shù)文件來說，匹配發(fā)生在 1k 以內比發(fā)生在 5k 左右的可能性要大得多，但發(fā)生在 28k 處附近的可能性和發(fā)生在 32k 處附近的可能性的差別就沒那么明顯。所以范圍劃分也應該是從小到大。
　　“未匹配的原始字節(jié)”不具有頻率衰減或遞增的單向變化的規(guī)律，它們的頻率分布往往是參差不齊、難以預測的，不可能用預先設定的范圍表對它們進行大致合理的劃分，就像“匹配長度”和“匹配距離”那樣。雖然也可以通過計算分析，對它們進行不設定范圍數(shù)量和大小的劃分，以求每個范圍中的各節(jié)點頻率大致相近，但 1) “匹配距離”的劃分已經大幅度地縮小了碼表的大小；2) 由于不具有頻率單向變化的趨向，要強行劃出節(jié)點頻率相近并且節(jié)點數(shù)是 2 的乘方的范圍太勉強，難度也大；3) 未匹配的字節(jié)數(shù)一般要大于“匹配數(shù)”（注意：不是“匹配字節(jié)數(shù)”），強行劃分造成的不良反應較大。所以 gzip 保留了這套節(jié)點，沒去拆分。
　　長度范圍的最后一個附加碼位長是 0，是因為長度大于 258 的匹配都被截斷到 258，所以 258 的頻率可能會高出前面的節(jié)點，單獨劃為一個范圍。
　　如果一個范圍里的節(jié)點頻率相同，節(jié)點數(shù)是 2 的乘方，且沒有無效節(jié)點，那么這個范圍可以看作 huffman 樹中的一棵子樹，范圍的編碼可以看作這棵子樹的根的編碼，這樣的劃分是不會影響壓縮率的。
　　對壓縮率的損害來自頻率不一致，以及無效節(jié)點的存在。范圍里的有效節(jié)點如果沒有過半，“附加碼”的位數(shù)就至少有一位浪費了，也就是說，范圍里所有有效節(jié)點的碼長無端增長了一位，如果有效節(jié)點沒有過 1/4，至少就有 2 位附加碼浪費。
　　劃分范圍的收益是使碼表減小到不足 0.2k，加上后面會介紹的對碼表的第二次壓縮，碼表的最終大小是微不足道的。
　　現(xiàn)在我們來近似地估計一下劃分范圍在“一般情況”下對壓縮率的損害的情況，以便有一個大致的概念，仍舉前面的例子：段落大小為 90k，設其中未匹配字節(jié)數(shù)和匹配數(shù)的比例為 3:1，未匹配字節(jié)有 45k 個，匹配距離值和匹配長度值各 15k 個，有效距離值節(jié)點為 5k個（節(jié)點平均頻率為 3），無效距離值節(jié)點為 32k - 5k = 27k 個，有效距離值節(jié)點的平均密度為 5/32，不到 1/6。范圍的劃分是前小后大，有效節(jié)點頻率是前大后小，無效節(jié)點是前少后多。距離值有 15k 個，設前面有效節(jié)點頻率高、密度較大的部分占一半，約 7k 個值，這個部分中無效節(jié)點帶來的損害較小，而且范圍劃分細，節(jié)點間頻率不一致帶來的損害也小，姑且不去計算。后面的范圍劃分大、有效節(jié)點密度小的部分損害較大，這個部分占了約 7k 個值，由于前面的部分有效節(jié)點密度大，所以假設這個部分有效節(jié)點密度為 1/8（也就是說，約一半的匹配發(fā)生在 1k 距離以內，且 1k 以內無效節(jié)點很少，那么 4k / 31k 約等于 1/8），附加碼浪費了 3 位，7k 個值浪費 3 位，共浪費了 21k bit 約等于 3k 字節(jié)。
　　再看頻率不一致帶來的損害：huffman 編碼如果要達到 50% 的壓縮率，需要節(jié)點間頻率的差異達到幾百倍。讀者可以虛擬一些節(jié)點頻率，試著建一下 huffman 樹，會發(fā)現(xiàn)當節(jié)點頻率差異在幾十倍甚至只有幾倍的時候，壓縮率其實微乎其微。經過上面這樣合理地劃分范圍，范圍內的節(jié)點頻率差異一般不會那么大，所以我們假設頻率不一致造成的損害為 1k － 2k。
　　匹配長度值的取值范圍只有 258 個，而且匹配長度可能很少會超過 20 字節(jié)，而前 20 字節(jié)的范圍劃分是很細的，所以無效節(jié)點的損害和頻率不一致的損害都較小。
　　這樣，在這個例子中，劃分范圍帶來的損害約在 5k － 6k，和不劃分范圍時碼表的大小非常相似，至少也是在一個數(shù)量級上。
　　再來看看損害比例變化的趨勢：當段落很小時，范圍中的有效值稀疏，損害比例會加大。而不劃分范圍時，碼表的去重復機制會有更大作用，無效節(jié)點連成片，損害比例減小。反之，段落增大，范圍里有效節(jié)點密度大，損害比例降低，而不劃分范圍時，無效節(jié)點可能無法大片連接，去重復機制的效用降低，損害比例增大。
　　由于劃分范圍能使 huffman 樹的節(jié)點從最多 32k 減到不足 320 個，從而使壓縮速度顯著改善。綜上所述，段落小（比如不到 10k），不宜劃分范圍，否則劃分范圍是有益的。

3.4 對碼表進行第二次壓縮。
　　目前為止，碼表中只需要保存各個節(jié)點經過 huffman 編碼后的新編碼的碼長。共兩棵樹，l_tree: 256 個原始字節(jié)值加 29 個長度范圍值加 1 個段落中止符，共 286 個節(jié)點，段落中止符用來在解壓時標示一個段落的終結。d_tree: 30 個距離范圍值。也就是說，共需要保存 286 + 30 = 316 個編碼的碼長。gzip 限制 huffman 樹的最大層數(shù)為 15，這樣，碼長就有 0 － 15 共 16 種值，再加上前面介紹過的去重復機制使用的 3 種特殊值，共 19 種值，如果就這樣保存碼表的話，每個碼長都需要 5 位，才能表示 19 種值。我們觀察一下，316 個碼長，一共只有 19 種值，碼長值的重復是必然的，而且由于 huffman 樹上每層的節(jié)點數(shù)不同，所以各個碼長值的頻率也不一樣。所以還可以為這 19 種值再建 huffman 樹，進行第二次編碼。這棵樹只有 19 個節(jié)點，限制它的層數(shù)為 0 － 7，可以用 3 個 bit 表示這 19 個節(jié)點的“長度”。這樣，用新的“碼長的編碼”來保存 316 個碼長，另需額外保存 3 * 19 = 57 bit，就可以解壓出這 19 個“碼長的編碼”。（至于這 57 bit，就沒有必要再作第 3 次編碼了）


4. 解決了碼表的問題，現(xiàn)在再回過頭來看靜態(tài)編碼。
　　靜態(tài)編碼是 gzip 預先設定的編碼方案，它的碼表是固定的。
　　該如何合理設計這套編碼？作為 huffman 編碼的補助，它的耗時應盡量少，前面說過，lz77 輸出一個分段之前，要比較 huffman 編碼和靜態(tài)編碼的壓縮結果，為了直接利用 lz77 輸出時做的匹配長度范圍、匹配距離范圍的頻率的統(tǒng)計，靜態(tài)編碼采用了同樣的范圍－附加碼的方案，這樣可以快速得到靜態(tài)編碼的壓縮結果大小。
　　靜態(tài)編碼的碼長的分配是這樣的：29 個長度范圍中前 24 個范圍的碼長為 7，后 5 個范圍的碼長為8。原始字節(jié)值中 0 － 143 的碼長為 8，144 － 255 的碼長為 9。而 30 個距離范圍的碼長為 5。根據(jù)這些預先設定的碼長建立靜態(tài)的 l_tree 和 d_tree，編碼也就產生了。結合前面提到的附加碼位數(shù)的定義：
29 個長度范圍的附加碼位長：
{0,0,0,0,0,0,0,0,1,1,1,1,2,2,2,2,3,3,3,3,4,4,4,4,5,5,5,5,0};
30 個距離范圍的附加碼位長：
{0,0,0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,8,8,9,9,10,10,11,11,12,12,13,13};
讀者可以知道每一個值的實際碼長。長度范圍值和原始字節(jié)值建在一棵樹上，節(jié)點多所以碼長較長，30 個距離范圍值只需要 5 位二進制數(shù)表示。短匹配的長度范圍值位長較短，字節(jié)值 0 － 143 的位長中等，其他字節(jié)值和長匹配的長度范圍值較長。這樣的分配反映了 gzip 作者對“大多數(shù)”文件中各種值的頻率的粗略估計。作為一個通用的壓縮算法，無法預先知道一個文件的實際情況，不可能做精確的估計。
　　進一步的思考：靜態(tài)編碼有必要嗎？靜態(tài)編碼采用了和 huffman 編碼相同的范圍－附加碼的方案，在碼長的分配上不可能超過 huffman 編碼，如果能“獲勝”，那就是勝在不需要保存碼表上，而前面分析過，碼表是很小的，對壓縮率沒有多大影響，所以 gzip 設計的這個靜態(tài)編碼方案應該是可有可無的。

5. 關于堆排序算法。
　　似乎已經解決了所有的難題，但是對于沒有學過數(shù)據(jù)結構的讀者，仍然有一個會對程序效率產生影響的問題需要關注，那就是“排序”。
　　已經講過，huffman 算法就是從一個節(jié)點序列中，不斷找出兩個最小的節(jié)點，為它們建一個父節(jié)點，值為這兩個節(jié)點之和，然后從節(jié)點序列中去除這兩個節(jié)點，加入它們的父節(jié)點到序列中，不斷重復這樣的步驟，直到節(jié)點序列中只剩下一個節(jié)點。如何快速地找出最小的元素呢？
　　在普通的線性羅列的數(shù)據(jù)結構中，從 N 個元素中找出最小的元素的時間和 N 成正比，如果數(shù)據(jù)以我們所要介紹的“堆”的結構存儲，時間和 lg N 成正比（注：lg 以 2 為底數(shù)，如 lg 256 = 8，lg 1024 = 10 ...）。 集合中的元素越多，堆排序算法的優(yōu)勢越突出，而且堆排序非常適合于在數(shù)據(jù)序列中不斷地取走最小的元素并加入新的元素。

5.1 什么是堆？
　　堆首先是一棵“完全二叉樹”，即所有的葉子節(jié)點都在樹的最低二層，最低一層的節(jié)點依次靠左排列的二叉樹。如圖：

　　　　　　　　　　　　　　　　　　　　　　　完全二叉樹
　　　　　　　　　　　　　　　　　　　　　　　　　｜
　　　　　　　　　　　　　　＋－－－－－－－－－－○－－－－－－－－－－＋
　　　　　　　　　　　　　　｜　　　　　　　　　　　　　　　　　　　　　｜
　　　　　　＋－－－－－－－○－－－－－－＋　　　　　　　　　　＋－－－○－－－＋
　　　　　　｜　　　　　　　　　　　　　　｜　　　　　　　　　　｜　　　　　　　｜
　　＋－－－○－－－＋　　　　　　＋－－－○－－－＋　　　　＋－○－＋　　　＋－○－＋
　　｜　　　　　　　｜　　　　　　｜　　　　　　　｜　　　　｜　　　｜　　　｜　　　｜
＋－○－＋　　　＋－○－＋　　＋－○－＋　　　＋－○－＋　　■　　　■　　　■　　　■
｜　　　｜　　　｜　　　｜　　｜　　　｜　　　｜　　　｜
■　　　■　　　■　　　■　　■　　　■　　　■　　　■


　　堆分大根堆和小根堆，大根堆的所有子節(jié)點都小于它的父節(jié)點，小根堆的所有子節(jié)點都大于它的父節(jié)點。下面就是一個小根堆：

　　　　　　　　　　　　　　　　　　　　　　　　　小根堆
　　　　　　　　　　　　　　　　　　　　　　　　　　｜
　　　　　　　　　　　　　　＋－－－－－－－－－－－２－－－－－－－－－－＋
　　　　　　　　　　　　　　｜　　　　　　　　　　　　　　　　　　　　　　｜
　　　　　　＋－－－－－－－３－－－－－－＋　　　　　　　　　　＋－－－－８－－－＋
　　　　　　｜　　　　　　　　　　　　　　｜　　　　　　　　　　｜　　　　　　　　｜
　　＋－－－６－－－＋　　　　　　＋－－－４－－－＋　　　　＋－１５－＋　　　＋－１８－＋
　　｜　　　　　　　｜　　　　　　｜　　　　　　　｜　　　　｜　　　　｜　　　｜　　　　｜
＋－８－＋　　　＋－９－＋　　＋－５－＋　　　＋－５－＋　　１６　　２０　　　１９　　　２０
｜　　　｜　　　｜　　　｜　　｜　　　｜　　　｜　　　｜
９　　　９　　１１　　１３　　６　　　８　　　６　　　６

5.2 堆如何在內存中存儲？
　　堆存放在一個數(shù)組中，存放的順序是：從根開始，依次存放每一層從左至右的節(jié)點。
5.3 如何尋找任意節(jié)點的子節(jié)點和父節(jié)點？
　　數(shù)組中第 k 個元素，它的左子節(jié)點是第 2k 個元素，右子節(jié)點是第 2k + 1 個元素。它的父節(jié)點是┖ k/2 ┚（注：┖ X ┚表示小于等于 X 的最大整數(shù)）。
5.4 如何建立堆？
　　先把 n 個元素依次放入數(shù)組中，令變量 k = ┖ n/2 ┚，這時第 k 個元素是最后一個元素的父節(jié)點，從第 k 個元素的兩個子節(jié)點中找出較小的一個與 k 元素比較，如果小于 k 元素，就和 k 元素交換一下位置，換位后的原先的 k 元素再和新的子節(jié)點比較（如果有子節(jié)點的話），直到它不再小于新的子節(jié)點或沒有子節(jié)點。令 k = k - 1。再重復上面的做法直到 k < 1，一個堆就建成了。
5.5 如何從堆中找出第二個最小的元素？
　　把堆中第一個元素（最小的元素）存放到其他地方，把第 n 個元素（最后一個）放到第一個的位置，再用前面的方法和下層節(jié)點交換直到它放到合適的位置，這時數(shù)組仍然是一個堆，第一個元素是最小的節(jié)點，數(shù)組的最后一個有效節(jié)點是第 n - 1 個元素。
　　花費的時間和交換的次數(shù)成正比，最大的可能的交換次數(shù)是： 堆的層數(shù) - 1 =┏ lg (元素數(shù) + 1) ┒- 1（注：┏ X ┒表示大于等于 X 的最小整數(shù)）。
　　現(xiàn)在可以看到，堆之所以采用完全二叉樹的形式，是為了樹的層數(shù)盡可能少。
　　而抽出最后一個元素放到樹根，而不是抽出第二層的元素，是為了維持完全二叉樹的結構！
5.6 如何加入新的元素到堆中？
　　把第一個元素存放到其他地方，把新的元素放到第一個的位置，再用前面的方法和下層節(jié)點交換，直到它被放到合適的位置，此時數(shù)組中仍然是一個堆。

6. 建 huffman 樹和編碼的算法：
　　如果現(xiàn)在有 n 個待編碼的節(jié)點，按照原始數(shù)值從小到大存放在數(shù)組 tree[n] 中，那么，將要建立的 huffman 樹總共會有 2n -1 節(jié)點，包括葉子節(jié)點和非葉子節(jié)點。申請一塊內存，大小是能放下 huffman 樹的所有節(jié)點，先把 n 個待編碼節(jié)點放入這塊內存的左端，然后用“堆排序”算法先把它們建成一個堆。
　　然后不斷用“堆排序”算法取出頻率最小的節(jié)點，把它們從右到左、從小到大排放在內存塊的右端，每當取出兩個節(jié)點，給它們生成一個父節(jié)點，頻率等于它們之和，加入堆中。這樣直到堆中只剩下一個根節(jié)點，這時，內存中從左到右存儲的是頻率從大到小的所有節(jié)點，一棵 huffman 樹其實也就建成了，層數(shù)小的節(jié)點在前，層數(shù)大的節(jié)點在后，每一層的節(jié)點又是按頻率從大到小依次排列。
　　申請兩個數(shù)組：bl_count[]，bl_base[]。置根節(jié)點的碼長為 0，從左至右，所有節(jié)點的碼長(len)為它的父節(jié)點的碼長 + 1，如果是葉子節(jié)點，bl_count[len]++，得到了每一層上的葉子節(jié)點數(shù)目。令變量 code = 0，然后根據(jù) bl_count[] 生成 bl_base[]：碼長 len 從 1 開始遞增，bl_base[len] = code = (code + bl_count[len - 1]) << 1，得到了每一層上第一個葉子節(jié)點的編碼。
　　現(xiàn)在所有待編碼節(jié)點都被賦予了碼長，遍歷待編碼節(jié)點，根據(jù)它們的碼長得到它們的編碼：序號 n 遞增，tree[n].code = bl_base[ tree[n].len ] ++。
　　注意：我們前面討論碼表的時候說過，gzip 對 huffman 編碼進行了改進，只需要得到每一個葉子節(jié)點（待編碼節(jié)點）的碼長，就可以進行編碼，而不需要關心它的父節(jié)點的編碼是什么。而保存碼表時，只需要保存碼長。

動態(tài) huffman 壓縮和解壓的整個流程：
壓縮：
　　lz77 的壓縮過程中輸出未匹配的單雙字節(jié)，和匹配，并統(tǒng)計各字節(jié)值和匹配長度范圍、匹配距離范圍的頻率，根據(jù)這些頻率建立兩棵 huffman 樹：ltree、dtree，得到這兩棵樹上所有節(jié)點的長度和編碼。
　　統(tǒng)計這兩棵樹節(jié)點長度的使用頻率，對各節(jié)點長度建立 huffman 樹：bl_tree，得到 bl_tree 的長度和編碼。
　　存儲 bl_tree 的節(jié)點長度數(shù)組。
　　再用 bl_tree 的編碼存儲 ltree、dtree 的節(jié)點長度數(shù)組。
　　再用 ltree 的編碼存儲各字節(jié)值和匹配長度范圍（及附加碼）的流；用 dtree 的編碼存儲匹配距離范圍（及附加碼）的流。
解壓：
　　先根據(jù) bl_tree 的節(jié)點長度數(shù)組得到 bl_tree 的編碼。
　　再用這些編碼得到 ltree、dtree 的節(jié)點長度數(shù)組，進而得到 ltree、dtree 的編碼。
　　再根據(jù) ltree、dtree 的編碼及附加碼的定義，得到 lz77 的輸出的原始結果：各字節(jié)值和匹配長度的流，匹配距離的流。

后記：
　　寫作本文花費了超過一年的業(yè)余時間，其實看懂 gzip 源碼只用了一個半月的業(yè)余時間，等真正開始寫這篇文章的時候，發(fā)現(xiàn)深入分析無損壓縮算法要投入的心力會遠超過我原來的想象，不是光靠“毅然決然的態(tài)度”和“拼搏精神”就可以完成的。只有耐心地去付出。
　　經過了一年多的時間，終于有了現(xiàn)在這樣質量的這篇文章。這期間，我的工作已經從應用工程師轉變到了研究員，應該說，寫作這篇文章對促成我把今后的工作轉變?yōu)楦阊芯渴怯杏绊懙摹Ｋ赃@篇文章對我自己的人生道路當然是有重要的意義，我也希望它會促成讀者投身研究的決心。
　　巴甫洛夫說：“科學研究需要的是偉大的熱情和艱苦的勞作”，從看到這句話起，我就一直很喜歡它，常常會想起這句話。希望這篇文章能使讀者聯(lián)想到“長久的熱情和耐心的勞作”，并在生活和工作中貫徹這種精神。
　　一篇文章發(fā)布以后，它的全部價值就在于讀者的閱讀，感謝讀者諸君。