1.一种分像素插值滤波器的设计方法,其特征在于,包括如下步骤:步骤1,在准备训练数据时,采用运动模糊的方式,对高分辨率图像进行降采样操作;
步骤2,数据训练过程中,输入降采样后的图像,使用残差学习技术,经过神经网络得到新型损失函数,具体包括:步骤2.1,经过神经网络产生的残差图像除了与原始输入图像相加并与目标图像作MSE之外,还单独输出到一个特殊的层中进行离散余弦变换操作以及量化操作:output=max(0,T(input)%Q)
其中T代表DCT,Q代表量化步长,output为经过神经网络产生的残差图像,input为原始输入图像;
步骤2.2,将残差图像转换为数值集中在左上方且其余位置均为0的矩阵,随后将该矩阵输入码率估计层中,所述码率估计层根据所述矩阵中的数值大小和数量估计出编码后码流的长度:2
Lij为量化后变换单元TU中的参数,N为变换单元TU的大小,N 为TU中的参数的数量,码流的长度作为最终loss函数的一部分,则最后的loss函数可表示为:loss总=α·lossMSE+β·lossbitrate其中α和β是调整两个loss比例关系的权重参数,lossMSE代表均方差MSE损失函数,lossbitrate=lengthbit代表码率损失函数;
步骤3,使用新型损失函数训练带有可变形卷积层的神经网络,生成所需残差图像。
2.如权利要求1所述的一种分像素插值滤波器的设计方法,其特征在于,所述步骤1具体包括:通过不同的运动模糊核长度与核方向,对高分辨率图像加入运动模糊后进行降采样,表达式为:B=C(L,β)*X+N
其中B为最终的模糊图像,C为运动模糊核,L为模糊核的长度,β为模糊核的方向,X为原始图像,N为噪声。
3.如权利要求1所述的一种分像素插值滤波器的设计方法,其特征在于,所述可变形卷积表示为:y(px)=∑W(px+py)·X(px+py+Δpy)·Δmy其中px为卷积的位置,py为向相邻八个像素移动的向量,Δpy为一个额外的移动向量,Δmy为0到1之间的系数,Δpy使得卷积核的每个点不固定于原本的位置从而改变卷积点的感受野,Δmy控制每个像素点参与卷积的程度。