欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2023109790298
申请人: 四川锦城瑞知互联网科技有限公司
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于对比学习与子空间的小样本跨域高光谱图像分类方法,其特征在于,包括如下:(1)获取高光谱数据集并进行划分:

(1a)从公开网站中获取G个高光谱数据集,将一个数据集作为源域,剩下的G-1个数据集作为目标域;

(1b)从源域数据集中选C个类别,每个类选K个源域样本作为源域支持集Ss,再选取N个其他源域样本组成源域查询集Qs;

(1c)从目标域数据集中选H个带标签类别,每个类选取K个目标域有标签样本作为目标域支持集St,每个类再选N个其他目标域有标签样本组成目标域查询集Qt,用目标域支持集St与目标域查询集Qt共同组成训练集Tr;将剩下的目标域无标签样本作为测试集Te;

(2)构建包括一个二维卷积层与一个BatchNorm2d层的映射层;构建包括两个残差块、两个最大池化层,一个卷积层和一个Flatten层的特征提取器fθ;

(3)对源域与目标域的嵌入特征进行子空间分类:

(3a)将源域支持集Ss,源域查询集Qs,目标域支持集St,目标域查询集Qt分别输入到映射层与特征提取器fθ,得到源域支持集嵌入特征fθ(Ss)、源域查询集嵌入特征fθ(Qs)、目标域支持集嵌入特征fθ(St)、目标域查询集嵌入特征fθ(Qt);

(3b)利用源域支持集嵌入特征fθ(Ss)构建源域子空间,并计算源域查询集嵌入特征fθ(Qs)在源域子空间中的源域子空间损失lS;

(3c)计算源域支持集嵌入特征fθ(Ss)在源域子空间中的源域支持损失(3d)利用目标域支持集嵌入特征fθ(St)构建目标域子空间,并计算目标域查询集嵌入特征fθ(Qt)在目标域子空间中的目标域子空间损失lT;

(3e)计算目标域支持集嵌入特征fθ(St)在目标域子空间中的目标域支持损失(4)将源域支持集Ss分成C个对比组,计算其输入映射层和特征提取器的对比损失lCL;

(5)构建包括五个全连接层,四个ReLU非线性激活函数,四个dropout层,一个Softmax激活函数的域鉴别器fD;

(6)计算域鉴别损失lD:

(6a)将源域子空间损失lS、源域支持损失源域支持集嵌入特征fθ(Ss)、源域查询集嵌入特征fθ(Qs)进行融合,得到源域融合特征(T(hs));

(6b)将目标域子空间损失lT、目标域支持损失目标域支持集嵌入特征fθ(St)、目标域查询集嵌入特征fθ(Qt)进行融合,得到目标域融合特征(T(ht));

(6c)将源域和目标域的融合特征(T(hs))、(T(ht))输入域鉴别器fD中计算域鉴别损失lD:其中,D,T分别代表域鉴别器与特征提取器的融合特征,xs,xt分别代表源域样本和目标域样本,Ps(x),Pt(x)分别表示源域分布与目标域分布,D(T(hs))表示鉴别器fD预测源域融合特征(T(hs))来源于源域的概率,表示鉴别器fD预测目标域融合特征来源于目标域的概率,E为期望输出;

(7)计算总损失函数以训练特征提取器:

计算由源域子空间损失lS,目标域子空间损失lT,对比损失lCL,域鉴别损失lD组成的总损失函数:l=λ1lS+λ2lT+λ3lCL+lD,其中λ1、λ2、λ3分别为lS、lT、lCL的可调整参数;

通过反向传播对特征提取器fθ进行迭代训练直到总损失函数收敛,得到训练好的特征提取器fθ';

(8)利用测试集数据进行分类:

(8a)将训练集Tr输入到映射层和训练好的特征提取器fθ'中,得到训练集嵌入特征fθ'(Tr),利用该特征fθ'(Tr)构建训练集子空间;

(8b)将测试集Te输入到映射层和训练好的特征提取器fθ'中,得到测试集嵌入特征fθ'(Te),并计算其在训练集子空间中的测试子空间损失l';

(8c)以测试子空间损失l'中最小的类别作为预测类别,完成分类任务。

2.根据权利要求1所述的方法,其特征在于:步骤(2)中构成映射层中二维卷积层与BatchNorm2d层,其结构参数如下:所述二维卷积层,其输入通道数为输入数据的维度,输出通道数为100,卷积核大小为1×1,步长为1;

所述BatchNorm2d层,其用于进行二维批量归一化,公式为其中x表示输入数据,mean(x)表示均值,Var(x)表示方差,eps为一个极小值,γ,β分别为两个数值不同的调整参数。

3.根据权利要求1所述的方法,其特征在于:步骤(2)中构成特征提取器fθ中的两个残差块、两个最大池化层,一个卷积层,其结构参数如下:所述特征提取器fθ,其由第一残差块、第一池化层、第二残差块、第二池化层、卷积层依次连接组成;

所述两个残差块结构相同,每个残差块包括3个卷积块和3个ReLU层组成:第一卷积块、第一ReLU层、第二卷积块、第二ReLU层、第三卷积块、第三ReLU层依次进行连接,且第一ReLU层的输出与第三卷积块进行残差连接;每个卷积块包含一个3D卷积层和一个BatchNorm3d层;该3D卷积层的卷积核大小为3×3×3,步长为1,填充为1;每个ReLU层的函数为ReLU(x)=max(x,0);

所述两个最大池化层,其参数不同,即第一池化层的池化核大小为4×2×2,填充为0×1×1,步长为4×2×2;第二池化层的池化核大小4×2×2,填充为4×2×2,步长为2×1×1;

所述卷积层,其输出通道数为32,卷积核大小为3×3×3。

4.根据权利要求1所述的方法,其特征在于:步骤(3b)中利用源域支持集嵌入特征fθ(Ss)构建源域子空间,并计算源域查询集嵌入特征fθ(Qs)在源域子空间中的源域子空间损失lS,其步骤包括如下:(3b1)对源域支持集嵌入特征fθ(Ss)进行奇异值分解其中Xc代表源域支持集Ss的第c类,Bc称为左奇异向量,称为右奇异向量,T表示转置,Σc为奇异值矩阵;

(3b2)选取左奇异向量Bc的前n个维构成截断矩阵Pc,并将Pc视为源域子空间的基;

(3b3)计算源域查询集嵌入特征fθ(Qs)中的样本qk在源域子空间Pc中的投影距离dc(qk):dc(qk)=-||(I-Mc)(fθ(qk)-μc)||2其中μc为源域支持集嵌入特征Ss的平均值;

(3b4)用Softmax函数计算源域查询集嵌入特征fθ(Qs)的样本qk属于c类的概率(3b5)计算源域子空间的第i个基Pi和第j个基Pj之间的投影距离其中表示矩阵PiTPj中所有元素的平方和,|| ||F表示F范数;

(3b6)根据(3b4)和(3b5)的结果计算源域子空间损失函数lS:其中Ms为源域查询集Qs样本数量,λs为根据实验可调整的参数。

5.根据权利要求1所述的方法,其特征在于:步骤(4)中将源域支持集Ss分成C个对比组,计算这些对比组输入映射层和特征提取器的对比损失lCL,其步骤包括如下:(4a)把含有C类,每类K个样本的源域支持集Ss,划分成K个组,每组有C个样本,其中,任意两个组可视为一组对比组,在对比组中,每个样本只有一个来自同一类的阳性样本,其余2C-2个样本为阴性样本,两个对比组可分别表示为S1和S2:S1={x1,x3,...,x2k-1,...,x2C-1}S2={x2,x4,...,x2k,...,x2C}

其中x2k-1与x2k属于同一类;

(4b)将对比组分别输入特征提取器fθ,得到对比组的嵌入特征和(4c)计算对比组的嵌入特征和中元素的噪声对比估计损失函数li,j:其中s(fθ(xi),fθ(xj))表示fθ(xi)与fθ(xj)之间的相似性度量,τ为温度系数;

(4d)计算最终对比损失lCL:

其中l2k-1,2k表示与中元素的噪声对比估计损失函数,l2k,2k-1表示与中元素的噪声对比估计损失函数。

6.根据权利要求1所述的方法,其特征在于:步骤(5)构成域鉴别器fD的五个全连接层,四个ReLU非线性激活层,四个dropout层,一个Softmax激活层,其结构参数包括如下:所述域鉴别器fD,其由第一全连接块、第二全连接块、第三全连接块、第四全连接块、第五全连接层,Softmax激活层依次连接,其中四个全连接块均由全连接层、ReLU非线性激活层、dropout层依次连接组成;

所述五个全连接层,前四个全连接层的输入特征数量均为1024,输出特征数量为1024;第五个全连接层输入特征数量为1024,输出特征数量为1;

所述四个ReLU非线性激活层完全相同,其函数为ReLU(x)=max(x,0);

所述四个dropout层完全相同,其表示随机将输入特征的一部分置为0,参数设为0.5;

所述Softmax激活函数,其函数为其中xi表示输入x中的元素,∑jexp(xi)表示归一化项。

7.根据权利要求1所述的方法,其特征在于:步骤(6a)将源域子空间损失lS,源域支持集嵌入特征fθ(Ss),源域查询集嵌入特征fθ(Qs)进行融合,得到源域融合特征(T(hs)),其步骤包括如下:(6a1)使用Softmax函数将源域子空间损失lS转换成源域查询结果gs1:其中表示lS中的元素,表示归一化项;

(6a2)将源域支持集嵌入特征fθ(Ss)投影到源域子空间中计算损失,使用Softmax函数计算得到源域支持结果gs2;

(6a3)将源域支持结果gs2与源域查询结果gs1在行方向上连接为源域输出结果gs;

(6a4)将源域支持集嵌入特征fθ(Ss),源域查询集嵌入特征fθ(Qs)在行方向上连接为源域输出特征fs;

(6a5)采用多线性映射对源域输出结果gs和源域输出特征fs进行融合得到源域融合特征(T(hs)):其中,和分别是fs和gs的维数,表示对fs和gs进行外积;表示随机采样,其中⊙表示元素积,和表示两个随机矩阵,其只采样一次,之后在训练阶段固定不再改变。

8.根据权利要求1所述的方法,其特征在于:步骤(6b)中将目标域子空间损失lT,目标域支持集嵌入特征fθ(St),目标域查询集嵌入特征fθ(Qt)进行融合,得到目标域融合特征(T(ht)),其步骤如下:(6b1)使用Softmax函数将目标域子空间损失lD转换成目标域查询结果gt1:其中表示lS中的元素,表示归一化项;

(6b2)将目标域支持集嵌入特征fθ(St)投影到目标域子空间中计算损失,使用Softmax函数计算得到目标域支持结果gt2;

(6b3)将目标域支持结果gt2与目标域查询结果gt1在行方向上连接为目标域输出结果gt;

(6b4)将目标域支持集嵌入特征fθ(St),目标域查询集嵌入特征fθ(Qt)在行方向上连接为目标域输出特征ft;

(6b5)采用多线性映射,将目标域输出结果gt和目标域输出特征ft融合成目标域融合特征(T(ht)):其中,和分别是ft和gt的维数,表示对ft和gt进行外积;表示随机采样,其中⊙表示元素积,和表示两个随机矩阵,只采样一次,之后在训练阶段固定不再改变。

9.根据权利要求1所述的方法,其特征在于:步骤(8a)中利用训练集特征fθ'(Tr)构建训练集子空间,其步骤包括如下:(8a1)对训练集嵌入特征fθ'(Tr)进行奇异值分解:fθ'(Xe)=BeΣeVeT,其中Xe代表训练集Tr的第e类,Be称为左奇异向量,VeT称为右奇异向量,T表示转置,Σe为奇异值矩阵;

(8a2)选取左奇异向量Be的前n个维构成截断矩阵Pe,并将Pe视为训练集子空间的基。

10.根据权利要求1所述的方法,其特征在于:步骤(8b)中计算测试集嵌入特征fθ'(Te)在训练集子空间中的测试集子空间损失l',其步骤包括如下:(8b1)计算测试集嵌入特征fθ'(Te)中的样本qm在训练集子空间Pe中的投影距离de(qm):de(qm)=-||(I-Me)(fθ'(qm)-μe)||2其中μe为训练集嵌入特征fθ'(Tr)的平均值;

(8b2)通过Softmax函数计算测试集嵌入特征fθ'(Te)中的样本qm属于m类的概率(8b3)计算训练集子空间的第a个基Pa和第b个基Pb之间的投影距离其中表示矩阵中所有元素的平方和,|| ||F表示F范数;

(8b4)根据(8b2)和(8b3)的结果计算测试集子空间损失l':其中M'为测试集Tr样本数量,λ'为根据实验可调整的参数。