欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2024118844516
申请人: 河海大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种半监督高光谱图像智能化分类方法,其特征在于,包括如下步骤:

步骤1:首先对数据进行预处理,采用PCA对HSI数据降维,在保持空间结构不变的情况下,提取出光谱维度中最具信息量的波段,降维后的数据表示为其中空间维度由H×W表示,B表示光谱维度中的波段数;

步骤2:将降维后的数据划分为多个块,每个块由目标像素及其相邻像素组成,表示为其中M×N为块大小;

步骤3:将样本按照每类固定数目随机划分出有标签数据集、无标签数据集以及测试集,对无标签数据集中的样本同时进行弱增强和强增强,为后续的一致性正则化训练奠定基础;

步骤4:构建多尺度可变形卷积模块,该模块引入不同尺度的可变形卷积核,通过多分支结构并行提取不同尺度的特征信息,有效增强特征表达能力;

步骤5:构建多尺度可变形Transformer网络,将步骤4中构建的多尺度可变形卷积模块与Transformer结构相结合,多尺度可变形卷积模块用于提取局部的空间光谱特征信息,而Transformer结构用于全局特征建模,进而实现更高效的特征提取与分类,网络同时接收有标签和无标签数据,以便通过半监督学习进行优化;

步骤6:对于有标签样本,模型通过交叉熵损失函数进行监督学习,以学习数据与标签之间的对应关系;对于无标签样本,采用一致性正则化策略,使输入图像的弱增强版本和强增强版本生成一致的预测结果,在训练过程中,结合提出的伪标签加权策略,平衡伪标签的数量与质量,以更充分地利用无标签样本;

步骤7:将多尺度可变形Transformer网络与伪标签加权策略相结合,进行迭代训练直至神经网络模型收敛,得到最终的训练模型,最后,利用一个全连接网络对模型输出结果进行后处理,得到每个像素点的分类结果。

2.根据权利要求1所述的一种半监督高光谱图像智能化分类方法,其特征在于,所述步骤3中,对于同一个无标签样本,同时生成弱增强版本和强增强版本,弱增强通过对输入图像进行随机水平翻转实现;而强增强包含多种增强方式,具体依次为:随机旋转或水平翻转输入图像,应用随机增强模块,并添加噪声,随机增强模块包括以下操作:随机旋转图像一定角度,沿水平或垂直方向剪切图像,使图像沿某一方向倾斜拉伸,以及沿水平或垂直方向平移图像内容。

3.根据权利要求1所述的一种半监督高光谱图像智能化分类方法,其特征在于,所述步骤4中,多尺度可变形卷积模块的构造如下:在多尺度可变形卷积模块中我们引入了不同尺度的可变形卷积核,分别为3x3、5x5和7x7,这些卷积核在同一层中的不同支路并行计算,分别提取不同尺度的特征信息,每个卷积层的输出特征分别经过批归一化层和ReLU激活层,最后通过Concat和1x1卷积操作,将不同尺度卷积层输出的特征进行融合。

4.根据权利要求3所述的一种半监督高光谱图像智能化分类方法,其特征在于,可变形卷积通过引入可学习的偏移量来动态调整卷积核的位置,其实现如下:给定输入特征图,传统卷积的输出表示为:

其中是卷积核的采样范围,w(pn)为卷积核的权重,p0表示特征图上的像素位置,pn表示在采样范围中的位置索引,即相对于p0的偏移量,x(p0+pn)表示输入特征图在位置p0+pn上的值,可变形卷积则为每个点添加了一个可学习偏移量Δpn:由于加入了偏移量的新采样点pn+Δpn为非整数,使用双线性插值算法来得到最终的像素值:

其中p表示任意非整数采样点p=p0+pn+Δpn,q列举了特征图x中的所有整数空间位置,G(·,·)为双线性插值核;

最后,完整过程可用如下公式描述:

其中,表示第i个卷积核的采样范围,表示第l层中第i个卷积核在位置pn的权重,Z(l)(p0+pn+Δpi)表示输入特征图在位置p0+pn+Δpi处的值,表示第l层中第i个卷积核的偏置,Z(t+1)(p0)表示第l+1层在位置p0经过输出特征图值。

5.根据权利要求1所述的一种半监督高光谱图像智能化分类方法,其特征在于,所述步骤5中,多尺度可变形Transformer网络构造如下:(1)初始特征提取:输入经过3D卷积模块进行特征提取,所述模块包含3D卷积层、批量归一化层和ReLU激活函数,能够有效提取高光谱图像的初始空间光谱特征;

(2)特征维度重组:将3D卷积模块的输出在通道和空间维度上进行重组,将其展平为二维平面表示,适配后续多尺度可变形卷积模块的输入要求;

(3)多尺度可变形卷积模块:构建多分支可变形卷积模块,包含3×3、5×5和7×7三个尺度的可变形卷积核,通过并行操作分别提取不同尺度的局部特征信息,结合可变形卷积能够自适应地捕获更灵活的空间结构信息,卷积结果在通道维度上拼接以保留不同尺度的特征信息;

(4)2D卷积融合特征:拼接后的特征张量通过2D卷积模块进一步处理,该模块不仅对特征的空间维度进行整合,还对通道维度的信息进行压缩和融合,生成具有统一表达的特征图,同时,融合过程中结合批量归一化层和ReLU激活函数,以增强特征的区分能力;

(5)位置嵌入与分类标记添加:将融合后的特征序列加入位置嵌入信息,以保留输入数据的空间位置信息,帮助模型理解输入序列的顺序,此外,添加一个分类标记到特征序列,用于后续在分类任务中输出结果来预测类别;

(7)全局特征建模:利用Transformer结构对特征序列进行建模,通过多头自注意力机制(Multi-head Self-attention)和多层感知机(MLP)捕获远距离的特征依赖关系,结合残差连接和层归一化操作优化特征表达;

(8)特征提取与分类:从Transformer的输出中提取分类标记的特征表示,并通过包含层归一化和全连接层的多层感知机(MLP)完成最终的分类预测,输出高光谱图像中每个像素点的类别标签。

6.根据权利要求1所述的一种半监督高光谱图像智能化分类方法,其特征在于,所述步骤6中,伪标签加权策略实现如下:采用一个截断的高斯函数来拟合样本置信度分布并对损失函数进行加权,为可能正确的伪标签分配较低的权重,为置信度较高的伪标签分配较高的权重,加权值的大小决定了该样本对损失函数的贡献程度,实现更好的泛化性能,定义样本加权值λ(p)如下:其中,p为无标签样本的预测概率向量,max(p)为p中的最大值,即模型对某个无标签样本的最高置信度,λmax为加权值的上限,当max(p)大于或等于μt时,直接取加权值上限λmax,μt为当前训练阶段下的置信度均值,σt为当前训练阶段下置信度的标准差,分别通过无标签样本的最高置信度值max(p)得到,即:其中,BU为无标签样本的批次大小,max(pi)是第i个无标签样本的最高置信度,为当前训练阶段下置信度的方差,然后我们使用动量为m的指数移动平均线(EMA)来汇总前几批次的统计数据,以获得更稳定的估计:μt=mμt-1+(1-m)μb

其中,我们将μ0初始化为初始化为1.0;

根据置信度分布自适应地估计高斯参数提高了模型的泛化能力,在训练过程中,随着模型学习能力的提高,置信度的增加,高斯函数尾部呈指数级增长,置信度低的错误伪标签被赋予较低的权重,置信度在μt左右的伪标签被更有效地利用。