1.一种基于3D卷积谱空特征融合的高光谱图像分类算法,该算法是一个四层结构,第一层是使用3D卷积神经网络来实现谱空特征融合,其输入数据为A1,输出为A2,第二层和第三层均是采用1D卷积神经网络对数据进行特征提取,第二层的输入和输出分别是A2和A3,第三层的输入和输出分别是A3和A4,第四层与第三层完全连接,输入和输出分别为A4和A5;
其特征在于,高光谱图像分类算法包括以下几个步骤:
步骤一:对数据进行预处理;使用PCA白化为数据预处理方法,来降低不同光谱通道之间光谱信息的相关性,得到去掉相关性后的数据;
其中,PCA白化是指使用PCA方法将原始高光谱数据X映射到新的坐标下的数据X',对X'的每一个特征维度进行标准差归一化处理;其处理公式为: 其中std(·)是求标准差的函数,X”为经过PCA白化后生成的新数据;
步骤二:使用3D卷积对第一层输入数据进行谱空特征融合;使用16个大小为7*7*1,移动步长为(1,1,1)的过滤器以待分类点为中心,对输入数据进行3D卷积来融合谱空特征,在过滤器中心点位于xyz处的3D卷积的计算公式为: 其中,w(1) (0) (1)
ijk为第一层中过滤器中需要学习的参数,v ijk代表被过滤器覆盖的与w ijk相对应输入(1)数据的值,b 为需要学习的偏置,α1、β1、γ1分别是3D卷积过滤器在3个维度上的尺寸,m0为输入的特征图的数量,函数σ(·)为非线性激活函数,非线性激活函数的公式为:σ(x)=max(0,x);
在第一层中,输入是从PCA白化后的数据X'中随机提取的7*7*C1的数据块,其7*7*C1三个维度分别代表长、宽和光谱通道,待分类点位于长和宽两个维度的中央,也就是(3*3),该层使用16个大小为7*7*1,即α1、β1、γ1分别为7、7、1的3D卷积过滤器对数据块进行3D卷积操作,实现光谱‑空间特征融合,过滤器在三个维度的移动的步长均为1,输出为16个维度为C2的特征向量;
步骤三:使用1D卷积提取第一层的输出中所包含的特征,并对第二层的输入数据进行融合,生成新的特征向量;该层使用8个尺寸为9,步长为2的过滤器以待分类点为中心,对第二层的输入数据,也就是第一层的输出数据A2进行1D卷积,在过滤器中心点位于x处的1D卷(2)积计算公式为: 其中,w i为第二层中过滤器需要学习的参
(1) (2) (2)
数,v i代表被过滤器覆盖的与w i相对应的数据的值,b 为需要学习的偏置,α2是1D卷积过滤器的尺寸,m1为输入的特征向量的数量,m1等于上一层过滤器的数量,函数σ(·)为非线性激活函数;
该层的输入是第一层的输出A2,即16个维度为C2的特征向量,使用8个大小为9的1D卷积输入数据进行1D卷积操作,其移动步长为2,输出为8个维度为C3的特征向量A3,步骤四:使用1D卷积进一步提取第二层的输出数据A3中所包含的特征,并对第三层的数据进行融合,生成新的特征向量;该层使用16个尺寸为9,步长为2的过滤器以待分类点为中心,对第三层的输入数据,也就是第二层的输出数据A3进行1D卷积,在过滤器中心点位于(3)x处的1D卷积计算公式为: 其中,w ,为第三层中过滤
(2) (3) (3)
器需要学习的参数,v i代表被过滤器覆盖的与w i相对应的数据的值,b 为需要学习的偏置,α3是1D卷积过滤器的尺寸,m2为输入的特征向量的数量,m2等于上一层过滤器的数量,函数σ(·)为非线性激活函数;
该层的输入是第二层的输出A3,即8个维度为C3的特征向量,使用16个大小为9的1D卷积输入数据进行1D卷积操作,其移动步长为2,输出为16个维度为C4的特征向量A4,步骤五:第四层用于对第一层、第二层和第三层中提取的数据中存在的特征进行分类;
(3)
在第四层中,首先要将输入的16个C4维特征向量进行堆叠,重构成一个C3*16维的向量v ,(4) (4)然后将该向量乘以参数矩阵w ,得到一个维度为C5的向量V ;
(4)
然后将softmax分类函数作用于v 上最后输出维度为C5的分类向量A5,分类向量的维度C5等于高光谱图像中包含感兴趣地物种类的个数,每个维度代表待分类点属于对应类别的概率值,最终认为概率最大的类别为待分类点所属的类别,其过程中的分类公式为:(4) (4) (3) (4)
V =softmax(W V +b )
(4) C5×(C4×16)
W ∈P
(3) (C4×16
V ∈P ),
(4) (4)
其中W 与b 为需要学习的参数,softmax函数的公式为:
(4) (3) (4) (4) (3) (4)
xi代表w v +b 结果中的第i个结果,xj代表w v +b 结果中的第j个结果;
步骤六:数据经过第一层、第二层、第三层和第四层逐层完成前向传播,得到的输入数据属于某一类别的预测,由于网络中需要学习的参数需要通过梯度下降法进行学习,因此要使用损失函数评价预测值与真实值之间的误差,该损失函数的公式为:其中,li为待分类点属于第i类的真实概率值,vi是
待分类点属于第i类的预测概率值,网络中需要学习的参数W与b作为变量,通过调整W与b的数值使loss的值最小,因此可以求出网络中关于参数W与b的梯度。
2.根据权利要求1所述的一种基于3D卷积谱空特征融合的高光谱图像分类算法,其特征在于,第一层、第二层和第三层用于提取数据中存在的特征,第四层与第三层之间使用完全连接的方式实现对输入特征的分类。
3.根据权利要求1所述的一种基于3D卷积谱空特征融合的高光谱图像分类算法,其特征在于,在训练时超参数设置方面,学习率设置为0.01,使用交叉熵作为损失函数,以Adam优化器训练1000个epoch。
4.根据权利要求1所述的一种基于3D卷积谱空特征融合的高光谱图像分类算法,其特征在于,第四层使用sotfmax函数,其余层均使用ReLU函数作为非线性激活函数。