1.基于改进自适应激活函数的深度学习抽油机故障诊断方法,其特征在于,以抽油机故障示功图作为数据集,输入至以下模型,具体步骤包括:S1、自适应激活功能的设计
S101、执行内部线性化,为输入引入若干可学习的参数,内部线性化方程如下:ψ=Aiz+Bi,
其中ψ是内部线性化方程,Ai,Bi(i=1,2,......,n)是第i层的可学习参数,n是神经网络的层数,z是每个神经元输入的加权和;
S102、在正区域,激活函数公式如下:Ci*Max(ψ,0)+Di,ψ≥0,其中Ci和Di是第i层的可学习参数,将可学习参数添加到激活函数的正区域,对此进行外部线性化;
S103、在负区域,由注意机制生成所提出的自适应激活函数的斜率,公式如下:Scales*Min(ψ,0),ψ<0,其中,Scales是通过注意机制得到的坡度;
得到激活函数如下:
S2、可学习参数的更新规律
单层激活函的神经网络输出如下:
y=f(z),
其中,y为神经网络的输出,损失函数L(y,d)的公式如下:其中,dj为实数,j=1,2,...,m,m为样本数;
通过损失函数的链式推导过程如下:
权重更新如下:
其中η为学习率,它会影响损失函数的更新速度;将损失函数的链式推导过程公式带入上式可得:根据损失函数的链式推导过程和激活函数的总体公式,推导出自适应激活函数中参数的更新规律如下:y=f(ψ)
由上式可以推导出:
S3、注意机制的结构
选择ReLU作为第一层FC的激活函数,公式如下:然后加入BN层;归一化用以下公式描述:其中xi和yi分别是每个Nbatch批的观测到的输入和输出,μ表示输入的平均值,σ2表示输入的方差,ε是接近零的常数,θ和γ是可学习的参数,控制缩放和移动分布,i表示层数;
通过上述方法步骤,能够有效的表示示功图中位移与荷载之间的映射关系,提取示功图的特征,对难以区分的样本进行正确分类,完成抽油机故障诊断。
2.根据权利要求1所述的基于改进自适应激活函数的深度学习抽油机故障诊断方法,其特征在于:步骤S101中,每个神经元输入的加权和z,定义如下:z=wx+b,
其中w为链权矩阵,b为偏差项。
3.根据权利要求1所述的基于改进自适应激活函数的深度学习抽油机故障诊断方法,其特征在于:反向传播过程如下:每批训练数据送入模型后,通过前向计算输出预测值,并根据预测值和真实值计算损失函数;
然后,通过链式推导和反向传播更新各参数,减小损失函数的值,直到模型生成的预测值接近真实值。
4.根据权利要求1所述的基于改进自适应激活函数的深度学习抽油机故障诊断方法,其特征在于:第二层FC的激活函数为Sigmoid。
5.根据权利要求1所述的基于改进自适应激活函数的深度学习抽油机故障诊断方法,其特征在于:注意机制的结构中,子网的输入由三个输入经过全局平均池化后得到的一维向量拼接而成;这三个输入分别是输入特征、分离后的正特征和分离后的负特征。