我希望你是我獨(dú)家記憶

一會兒你就會了解，但首先，先看一些背景知識。

歷史注解. 在 unicode 之前，對于每一種語言都存在獨(dú)立的字符編碼系統(tǒng)，每個系統(tǒng)都使用相同的數(shù)字(0-255)來表示這種語言的字符。一些語言 (像俄語) 對于如何表示相同的字符還有幾種有沖突的標(biāo)準(zhǔn)；另一些語言 (像日語) 擁有太多的字符，需要多個字符集。在系統(tǒng)之間進(jìn)行文檔交流是困難的，因?yàn)閷τ谝慌_計算機(jī)來說，沒有方法可以識別出文檔的作者使用了哪種編碼模式；計算機(jī)看 到的只是數(shù)字，并且這些數(shù)字可以表示不同的東西。接著考慮到試圖將這些 (采用不同編碼的) 文檔存放到同一個地方 (比如在同一個數(shù)據(jù)庫表中)；你需要在每段文本的旁邊保存字符的編碼，并且確保在傳遞文本的同時將編碼也進(jìn)行傳遞。接著考慮多語言文檔，即在同一文檔中使 用了不同語言的字符。(比較有代表性的是使用轉(zhuǎn)義符來進(jìn)行模式切換；噗，我們處于俄語 koi8-r 模式，所以字符 241 表示這個；噗，現(xiàn)在我們處于 Mac 希臘語模式，所以字符 241 表示其它什么。等等。) 這些就是 unicode 被設(shè)計出來要解決的問題。

為了解決這些問題，unicode 用一個 2 字節(jié)數(shù)字表示每個字符，從 0 到 65535。^[8] 每個 2 字節(jié)數(shù)字表示至少在一種世界語言中使用的一個唯一字符。(在多種語言中都使用的字符具有相同的數(shù)字碼。) 這樣就確保每個字符一個數(shù)字，并且每個數(shù)字一個字符。Unicode 數(shù)據(jù)永遠(yuǎn)不會模棱兩可。

當(dāng)然，仍然還存在著所有那些遺留的編碼系統(tǒng)的情況。例如，7 位 ASCII，它可以將英文字符存諸為從 0 到 127 的數(shù)值。(65 是大寫字母 “A”，97 是小寫字母 “a”，等等。) 英語有著非常簡單的字母表，所以它可以完全用 7 位 ASCII 來表示。像法語、西班牙語和德語之類的西歐語言都使用叫做 ISO-8859-1 的編碼系統(tǒng) (也叫做“latin-1”)，它使用 7 位 ASCII 字符表示從 0 到 127 的數(shù)字，但接著擴(kuò)展到了 128-255 的范圍來表示像 n 上帶有一個波浪線(241)，和 u 上帶有兩個點(diǎn)(252)的字符。Unicode 在 0 到 127 上使用了同 7 位 ASCII 碼一樣的字符表，在 128 到 255上同 ISO-8859-1 一樣，接著使用剩余的數(shù)字，256 到 65535，擴(kuò)展到表示其它語言的字符。

在 處理 unicode 數(shù)據(jù)時，在某些地方你可能需要將數(shù)據(jù)轉(zhuǎn)換回這些遺留編碼系統(tǒng)之一。例如，為了同其它一些計算機(jī)系統(tǒng)集成，這些系統(tǒng)期望它的數(shù)據(jù)使用一種特定的單字節(jié)編碼模 式，或?qū)?shù)據(jù)打印輸出到一個不識別 unicode 的終端或打印機(jī)。或?qū)?shù)據(jù)保存到一個明確指定編碼模式的 XML 文檔中。

在了解這個注解之后，讓我們回到 Python上來。

從 2.0 版開始，Python 整個語言都已經(jīng)支持 unicode。XML 包使用 unicode 來保存所有解析了的 XML 數(shù)據(jù)，而且你可以在任何地方使用 unicode。

例 9.13. unicode 介紹

>>> s = u'Dive in'            
>>> s
u'Dive in'
>>> print s                   
Dive in

	為了創(chuàng)建一個 unicode 字符串而不是通常的 ASCII 字符串，要在字符串前面加上字母 “u”。注意這個特殊的字符串沒有任何非 ASCII 的字符。這樣很好；unicode 是 ASCII 的一個超集 (一個非常大的超集)，所以任何正常的 ASCII 都可以以 unicode 形式保存起來。
	在打印字符串時，Python 試圖將字符串轉(zhuǎn)換為你的默認(rèn)編碼，通常是 ASCII 。(過會兒有更詳細(xì)的說明。) 因?yàn)榻M成這個 unicode 字符串的字符都是 ASCII 字符，打印結(jié)果與打印正常的 ASCII 字符串是一樣的；轉(zhuǎn)換是無縫的，而且如果你沒有注意到 s 是一個 unicode 字符串的話，你永遠(yuǎn)也不會注意到兩者之間的差別。

例 9.14. 存儲非 ASCII 字符

>>> s = u'La Pe\xf1a'         
>>> print s                   
Traceback (innermost last):
  File "<interactive input>", line 1, in ?
UnicodeError: ASCII encoding error: ordinal not in range(128)
>>> print s.encode('latin-1') 
La Peña

	unicode 真正的優(yōu)勢，理所當(dāng)然的是它保存非 ASCII 字符的能力，例如西班牙語的 “ñ”(n 上帶有一個波浪線)。用來表示波浪線 n 的 unicode 字符編碼是十六進(jìn)制的 0xf1 (十進(jìn)制的241)，你可以像這樣輸入：\xf1。
	還記得我說過 print 函數(shù)會嘗試將 unicode 字符串轉(zhuǎn)換為 ASCII 從而打印它嗎？嗯，在這里將不會起作用，因?yàn)槟愕?unicode 字符串包含非 ASCII 字符，所以 Python 會引發(fā) UnicodeError 異常。
	這兒就是將 unicode 轉(zhuǎn)換為其它編碼模式起作用的地方。s 是一個 unicode 字符串，但 print 只能打印正常的字符串。為了解決這個問題，我們調(diào)用 encode 方法 (它可以用于每個 unicode 字符串) 將 unicode 字符串轉(zhuǎn)換為指定編碼模式的正常字符串。我們向此函數(shù)傳入一個參數(shù)。在本例中，我們使用 latin-1 (也叫 iso-8859-1)，它包括帶波浪線的 n (然而缺省的 ASCII 編碼模式不包括，因?yàn)樗话瑪?shù)值從 0 到 127 的字符)。

還記得我說過：需要從一個 unicode 得到一個正常字符串時，Python 通常默認(rèn)將 unicode 轉(zhuǎn)換成 ASCII 嗎？嗯，這個默認(rèn)編碼模式是一個可以定制的選項。

例 9.15. sitecustomize.py

# sitecustomize.py                   
# this file can be anywhere in your Python path,
# but it usually goes in ${pythondir}/lib/site-packages/
import sys
sys.setdefaultencoding('iso-8859-1') 

	sitecustomize.py 是一個特殊的腳本；Python 會在啟動的時候?qū)胨栽谄渲械娜魏未a都將自動運(yùn)行。就像注解中提到的那樣，它可以放在任何地方 (只要 import 能夠找到它)，但是通常它位于 Python 的lib 目錄的 site-packages 目錄中。
	嗯，setdefaultencoding 函數(shù)設(shè)置默認(rèn)編碼。Python 會在任何需要將 unicode 字符串自動轉(zhuǎn)換為正規(guī)字符串的地方，使用這個編碼模式。

例 9.16. 設(shè)置默認(rèn)編碼的效果

>>> import sys
>>> sys.getdefaultencoding() 
'iso-8859-1'
>>> s = u'La Pe\xf1a'
>>> print s                  
La Peña

	這個例子假設(shè)你已經(jīng)按前一個例子中的改動對 sitecustomize.py 文件做了修改，并且已經(jīng)重啟了 Python。如果你的默認(rèn)編碼還是 'ascii'，可能你就沒有正確設(shè)置 sitecustomize.py 文件，或者是沒有重新啟動 Python。默認(rèn)的編碼只能在 Python 啟動的時候改變；之后就不能改變了。(由于一些我們現(xiàn)在不會仔細(xì)研究的古怪的編程技巧，你甚至不能在 Python 啟動之后調(diào)用 sys.setdefaultencoding 函數(shù)。仔細(xì)研究 site.py，并搜索 “setdefaultencoding” 去發(fā)現(xiàn)為什么吧。)
	現(xiàn)在默認(rèn)的編碼模式已經(jīng)包含了你在字符串中使用的所有字符，Python 對字符串的自動強(qiáng)制轉(zhuǎn)換和打印就不存在問題了。

#!/usr/bin/env python
# -*- coding: UTF-8 -*-

現(xiàn)在，想想 XML 中的編碼應(yīng)該是怎樣的呢？不錯，每一個 XML 文檔都有指定的編碼。重復(fù)一下，ISO-8859-1 是西歐語言存放數(shù)據(jù)的流行編碼方式。KOI8-R 是俄語流行的編碼方式。編碼――如果指定了的話――都在 XML 文檔的首部。

例 9.18. russiansample.xml

<?xml version="1.0" encoding="koi8-r"?>       
<preface>
<title>Предисловие</title>                    
</preface>

	這是從一個真實(shí)的俄語 XML 文檔中提取出來的示例；它就是這本書俄語翻譯版的一部分。注意，編碼 koi8-r 是在首部指定的。
	這些是古代斯拉夫語的字符，就我所知，它們用來拼寫俄語單詞“Preface”。如果你在一個正常文本編輯器中打開這個文件，這些字符非常像亂碼，因?yàn)樗鼈兪褂昧?koi8-r 編碼模式進(jìn)行編碼，但是卻以 iso-8859-1 編碼模式進(jìn)行顯示。

例 9.19. 解析 russiansample.xml

>>> from xml.dom import minidom
>>> xmldoc = minidom.parse('russiansample.xml') 
>>> title = xmldoc.getElementsByTagName('title')[0].firstChild.data
>>> title                                       
u'\u041f\u0440\u0435\u0434\u0438\u0441\u043b\u043e\u0432\u0438\u0435'
>>> print title                                 
Traceback (innermost last):
  File "<interactive input>", line 1, in ?
UnicodeError: ASCII encoding error: ordinal not in range(128)
>>> convertedtitle = title.encode('koi8-r')     
>>> convertedtitle
'\xf0\xd2\xc5\xc4\xc9\xd3\xcc\xcf\xd7\xc9\xc5'
>>> print convertedtitle                        
Предисловие

	我假設(shè)在這里你將前一個例子以 russiansample.xml 為名保存在當(dāng)前目錄中。也出于完整性的考慮，我假設(shè)你已經(jīng)刪除了 sitecustomize.py 文件，將缺省編碼改回到 'ascii'，或至少將 setdefaultencoding 一行注釋起來了。
	注意 title 標(biāo)記 (現(xiàn)在在 title 變量中，上面那一長串 Python 函數(shù)我們暫且跳過，下一節(jié)再解釋)――在 XML 文檔的 title 元素中的文本數(shù)據(jù)是以 unicode 保存的。
	直接打印 title 是不可能的，因?yàn)檫@個 unicode 字符串包含了非 ASCII 字符，所以 Python 不能把它轉(zhuǎn)換為 ASCII，因?yàn)樗鼰o法理解。
	但是，你能夠顯式地將它轉(zhuǎn)換為 koi8-r，在本例中，我們得到一個 (正常，非 unicode) 單字節(jié)字符的字符串 (f0, d2, c5，等等)，它是初始unicode字符串中字符 koi8-r 編碼的版本。
	打印 koi8-r 編碼的字符串有可能會在你的屏幕上顯示為亂碼，因?yàn)槟愕?Python IDE 將這些字符作為 iso-8859-1 的編碼進(jìn)行解析，而不是 koi8-r 編碼。但是，至少它們能打印。 (并且，如果你仔細(xì)看，當(dāng)在一個不支持 unicode 的文本編輯器中打開最初的 XML 文檔時，會看到相同的亂碼。Python 在解析 XML 文檔時，將它從 koi8-r 轉(zhuǎn)換到了unicode，你只不過是將它轉(zhuǎn)換回來。)

總結(jié)一下，如果你以前從沒有看到過 unicode，倒是有些唬人，但是在 Python 處理 unicode 數(shù)據(jù)真是非常容易。如果你的 XML 文檔都是 7 位的 ASCII (像本章中的例子)，你差不多永遠(yuǎn)都不用考慮 unicode。Python 在進(jìn)行解析時會將 XML 文檔中的 ASCII 數(shù)據(jù)轉(zhuǎn)換為 unicode，在任何需要的時候強(qiáng)制轉(zhuǎn)換回為 ASCII，你甚至永遠(yuǎn)都不用注意。但是如果你要處理其它語言的數(shù)據(jù)，Python 已經(jīng)準(zhǔn)備好了。