所謂率失真（distortion-rate），其實指的是圖像失真度與編碼碼率二者之間的相互關系。

其中的圖像失真度，目前一般采用原始圖像與編碼重建圖像之間的峰值性噪比PSNR來衡量，這個PSNR可以是亮度PSNR，也可以是亮度與色度PSNR的線性組合。一般最簡單的情況下，采用亮度的PSNR（Y-PSNR)來作為主要衡量依據。其中所謂的峰值信號，即圖像中像素的最大值（比方說像素亮度的最大值）；其中所謂的噪聲，指的是原始圖像與重建圖像中各像素值的均方差(差值的平方取均值）；將兩者一除，取其比值，再轉換成分貝形式，即為PSNR。

其中的編碼碼率，指的是選取不同編碼參數、量化參數、預測模式時最終所需傳輸的運動矢量、參考幀編號、預測殘差值等總體編碼數據的多少。

率失真優化：其一般目的就在于，在以盡可能小的編碼碼率下，獲取的圖像失真度盡可能的少，唯有如此，編碼器的編碼效率才是最高。當然，也不排除率失真優化的一些其他的特殊目的，比方說，在保證碼率不過上限的情況下失真度最小、在保證失真度不過下限的情況下碼率最小，等等

率失真分析：指某種可合理選擇編碼/量化參數及預測模式、從而實現率失真優化的建模、優化、分析過程。在H.264的編碼器中，一般均采用基于拉格朗日的優化算法來進行選取相應的編碼參數及預測模式，從而達到編碼控制及率失真優化的目的。

率失真優化過程的算法及實現優化程度，將極大地影響編碼器運行效率及配置要求，同時也極大地影響編碼器編碼效率和質量，因此是個非常重要的環節。