1.一种基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于,依次包括以下步骤:步骤1:构建卷积神经网络,对相关网络参数值进行初始化,设定网络的层数、卷积核、采样核大小、网络迭代次数和学习率;
步骤2:构建数据集,所述数据集包括训练集和测试集,并对所述数据集进行归一化预处理,即将每张样本图片的像素值进行归一化处理;
步骤3:将所述训练样本图片输入到所述卷积神经网络进行卷积、下采样操作,并将得到的隐层特征信息映射作为先验信息进行存储;
步骤4:将所述先验信息代入所述卷积神经网络的损失函数,构建目标函数;
步骤5:随机初始化一组解作为输入,利用模拟退火算法对所述目标函数进行寻优处理,得到最优解;
步骤6:将所述最优解导入所述卷积神经网络的全连接层作为初始化权值,并存储所述初始化权值对应的所述卷积神经网络;
步骤7:在所述卷积神经网络的网络卷积层引入高斯函数,并对所述高斯函数的中心点及标准差值进行初始化;对所述高斯函数进行离散化处理,并以离散点上的高斯函数值为卷积核系数构造高斯函数模板;
步骤8:对所述高斯函数模板进行归一化处理;
步骤9:采用窗口扫描的方式,利用所述高斯函数模块与输入图像进行卷积操作;
步骤10:完成对所述卷积神经网络的集成,所述集成包括:所述卷积层滤波器的优化和所述全连接层初始化权值的优化。
2.根据权利要求1所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤2中,对所述样本图片的像素值进行归一化公式如下: 其中,Xnorm为所述归一化后的数据,X为所述样本图片的原始数据,Xmax和Xmin分别为所述原始数据集合中的最大值和最小值。
3.根据权利要求1所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤3中,所述卷积、下采样操作的具体表达式如下:其中, 表示第l层的第j张所述训
练样本图片,f(·)表示所述卷积神经网络的隐含层激活函数,∑表示求和运算,l表示所述层数, 表示第l层所述卷积核,*表示所述卷积运算,Pj表示所述训练样本图片的第j个集合,down(·)表示下采样函数, 为所述下采样第l层的权重系数, 分别为所述卷积和所述下采样的第l层对应的第j个偏置项,函数g(x)=x。
4.根据权利要求1所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤4中,所述卷积神经网络的损失函数表达式如下: 其中,o表示所述卷积神经网络的实际输出,y表示所述卷积神经网络的期望输出,R表示每组所述训练样本图片的个数;
所述全连接层表达式如下: 其中,sigm(·)表示全连接层的激活函数,wl是所述全连接层l的权重系数,u表示上层的特征输入向量,bl是所述全连接层l的偏置项,i、j表示参数在二维坐标的索引;对所述全连接层表达式变形得:其中,x=(w b),z=(u I)T,w表示所述全连接层的权重系数向量,b表示为所述全连接层偏置项向量,I是一个元素全为1的单位矩阵,(·)T表示矩阵的转置,将所述全连接层的变形后的表达式代入所述损失函数中构造所述目标函数:
5.根据权利要求1所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤5中,对所述模拟退火算法的初始温度T、温度衰减参数、终止温度阈值Tδ以及每个温度对应的迭代次数M进行初始化,并随机初始化一组解x0作为当前解,开始每个温度下的内循环:步骤51:按照一定步长从所述当前解产生新解,并将所述新解分别代入所述目标函数,计算对应目标函数值;所述新解产生方式如下:x=x0+Δx,其中,x0为当前解,Δx为所述步长的值;
步骤52:若所述新解的目标函数值小于或等于当前解对应的目标函数值,则接受所述新解作为所述当前解;否则以概率P(x)接受新解作为所述当前解;
步骤53:对所述迭代次数进行实时判断,若达到所述初始化的迭代次数M,则执行步骤
54,否则执行所述步骤51;
所述步骤54:将当前温度乘以所述温度衰减参数,逐渐降低温度;
步骤55:重复所述步骤51至所述步骤54直至达到终止温度阈值Tδ,输出得到的最优解。
6.根据权利要求5所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤52中,所述以概率P(x)接受新解作为所述当前解,具体表达式如下:其中:L(x)是目标函数,ΔL(x)表示为函数L(x)的差值,k为玻尔兹曼常数,T为温度参数;所述温度衰减参数选取为0.98或0.99。
7.根据权利要求1所述的基于模拟退火—高斯函数的卷积神经网络集成方法,其特征在于:所述步骤7中,所述高斯函数的具体表达式如下:其中,x、y为所述高斯函数随机变量,(xi,yi)为中心点, 为模糊半径,σ为高斯分布标准差;
离散化后的高斯函数如下:
其中,i、j表示参数在二维坐标的索引,k表示所述卷积核的维数。