1.一种压缩编码量化方法,其特征在于,包括以下步骤:(a)设置量化宏块;
(b)获取所述宏块中各像素的预测残差和第一量化参数;
(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2;
(d)比较所述SAD1和所述SAD2的大小,若所述SAD1≤SAD2,则根据所述SAD1对应的第一量化方法完成所述编码压缩量化,反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化;其中,(c1)采用所述第一量化方法,根据所述预测残差和所述第一量化参数计算所述SAD1的步骤包括:(c11)根据所述预测残差和所述第一量化参数获得第一量化残差;
(c12)根据所述第一量化残差和所述第一量化参数获得第一反量化残差;
(c13)根据所述第一反量化残差和所述预测残差获得残差损失;
(c14)根据所述残差损失获取预设模板;
(c15)根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1;其中,根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1的步骤包括:(x1)根据所述预设模板以及所述残差损失获得所述补偿模板;
(x2)根据所述补偿模板、所述第一量化参数、所述第一量化残差获得所述第二反量化残差;
(x3)根据所述第二反量化残差和所述预测残差计算所述SAD1;
(c2)采用所述第二量化方法,根据所述预测残差和所述第一量化参数计算所述SAD2的步骤包括:(c21)根据所述预测残差获得残差分布类型;
(c22)根据所述第一量化参数确定所述第一量化参数的最大值、最小值以及差异值;
(c23)根据所述残差分布类型、所述最大值、所述最小值以及所述差异值构建量化矩阵并计算所述宏块的各像素的第二量化参数;
(c24)根据所述量化矩阵对所述预测残差进行量化,得到所述宏块中各像素的第二量化残差和第三反量化残差;
(c25)根据所述第三反量化残差以及所述预测残差计算SAD2;
设置十六组所述预设模板计算所述补偿模板;
所述残差分布类型包括:递弱型、递强型、强弱强型、弱弱弱型、普通型;其中,设置量化单元为宏块MB,即一个所述宏块MB采用统一的第一量化参数QP,所述第一量化参数QP由码率控制给出,设置所述宏块MB的大小为8*1;
波动系数k的公式为:
式中,Lossresi为所述残差损失;pixnumnone0为所述宏块MB内非0的预测残差数量;abs表示求绝对值,round表示四舍五入;
将16组所述预设模板的所述波动状态用表格来表达,如下表所示:将16组所述预设模板分别带入SAD公式中,比较SAD的大小,最小值对应的所述预设模板作为所述补偿模板;
式中,所述Lossresi为残差损失;ci为所述波动状态0≤i≤7;k为所述波动系数,pixnum为所述宏块MB内像素点的数量;
所述第二反量化残差的公式为:
invResqp2i=(Resqp1i<
其中,Resi为所述宏块MB中第i位像素的所述预测残差,invResqp2i为所述宏块MB中第i位像素的所述第二反量化残差,m×n表示所述量化矩阵的大小,ABS表示取绝对值;
所述残差分布类型由残差分布系数来决定;将所述残差分布系数记为Gradj,其中,j为1到4的整数,所述残差分布系数Gradj满足:其中,ri为所述宏块MB中第i位的像素的所述预测残差的绝对值,i为0到n-1的整数,n为所述宏块MB内像素点的数量;
分别判断Gradj是否满足如下条件:
若Grad1>a1,则所述残差分布类型属于递弱型;
若Grad2>a2,则所述残差分布类型属于递强型;
若Grad3>a3,则所述残差分布类型属于弱强弱型;
若Grad4>a4,则所述残差分布类型属于强弱强型;
如果以上条件都不满足,则所述残差分布类型属于普通型;
若根据上述公式计算出来的所述残差分布类型出现多种类型同时存在的情况,则取Gradj最大的值所对应的类型为所述残差分布类型;aj为设定阈值,j为1到4的整数;
所述最大值MAXQP、所述最小值MINQP、所述差异值DIFQP分别满足:式中,bitdepth为原始像素的比特深度;
计算所述宏块MB中按从左到右顺序的每个像素的所述第二量化参数QPi,i为像素序号,i为0到n-1的整数;
当n=8时,
若所述残差分布类型为递弱型,则QPi满足:若所述残差分布类型为递强型,则QPi满足:若所述残差分布类型为弱强弱型,则QPi满足:若残差分布类型为强弱强型,则QPi满足:若残差分布类型为普通型则QPi满足:
QPi=QP,0≤i≤7
最终求得量化矩阵为:QPmatrix=QPi,0≤i≤7。
2.根据权利要求1所述的压缩编码量化方法,其特征在于,步骤(c21)包括:(y1)根据所述预测残差获得残差分布系数;
(y2)根据所述残差分布系数获得所述残差分布类型。