在H.264算法中，量化主要是針對 4*4的殘差矩陣進行的。 基本原理是利用經過修正的DCT。 基本框圖如下所示： 由于無修正的DCT變換將導致變換結果均為實數，對實數的DCT，由于在解碼端的浮點運算精度問題，會造成解碼后的數據的失配，進而引起漂移。而H.264對漂移是很敏感的。為此需要對DCT變換矩陣進行改造。 以上是變換后的計算公式。 下面，開始量化過程。 定義 qbits=15+floor(QP/6) 其中： floor表示向下取整，QP取值0～51，QP影響圖像質量。 再定義矩陣MF= (Ef . / QStep ). *2^qbits 其中：括號內表示Ef矩陣中的每個元素均除以Qstep值， 然后將得到一個臨時矩陣，然后再把該臨時矩陣中的每一個元素乘以 2的qbits次方。 最后，量化的結果為矩陣Z44 Z= round(W .*MF ./ 2^qbits) W為 CXC‘，即上圖中的等式右邊但不乘以Ef的結果 同樣使用的是 .* 和 ./ 表示對應位置元素的乘除 實際中的運算過程稍微有改變： Z=round(?(W .*MF+f )./ 2^qbits ) 其中 f=2^qbits /3? 對于幀內預測 f=2^qbits/6?? 對幀間預測 現在舉例說明QP不同，對量化結果的影響。 ? 對殘差矩陣X： 5?? 11? 8?? 10
9?? 8??? 4?? 12
1?? 10? 11?4
19?6??? 15?7

? ? ? ?

轉載于:https://blog.51cto.com/datou97/737734

總結

以上是生活随笔為你收集整理的H.264中的量化过程的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。