1.一种超非线性输入输出系统基于CFF的参数辨识方法,其特征在于,包括以下步骤:S1、设计基于CFF的神经网络参数更新方法;
S2、建立稀疏神经网络模型;
S3、设计用系统误差建模实际噪声的方法;
S4、仿真实验;
所述S1神经网络参数更新方法包括单隐层神经网络参数更新和多隐层神经网络参数更新;
(1)单隐层神经网络:由单隐层神经网络模型分析得到网络隐层任意第 个神经元 的输出:(1)
其中, 、 分别表示输入层与隐层间的权重和偏置,表示系统输入,
表示隐层输出,
表示输入层到隐层的权重,其中 ;
将输入层到隐层的激活函数用 函数来表示,则式(1)写为:(2)
其中,激活函数采用 函数, 函数定义为:(3)
在分析隐层到输出层之间的关系时,将输入层到隐层的输出,作为隐层到输出层的输入,因而输出层第 个神经元的输出可表达为:(4)
其中, 、 分别表示隐层到输出层间的权重和偏置,表示隐层到输出层的权重,其中 ,表示系统输出;
结合式(2),网络输出模型式(4)改写为:(5)
单隐层神经网络参数更新具体为:
1)隐层到输出层的权重参数 更新,对参数 更新时,将 作为状态变量,将参数更新方程建立为满足CFF模型的形式,建模状态方程为:(6)
其中, 为状态转移矩阵, 表示随机游走模型(6)中的过程噪声;
结合式(5),建模非线性的测量方程为:(7)
其中, 表示随机游走模型(7)中的测量噪声;
结合式(6)‑(7),设计如式(8)‑(9)形式的特征函数滤波器:(8)
(9)
其中 为待估计的增益矩阵; 为系统输出的测量预测估计值;
2)输入层到隐层的权重参数 更新,将式(7)作为测量向量,将权重参数 作为状态变量,建模权重参数 更新的状态方程为:(10)
其中, 为状态转移矩阵, 表示随机游走模型(10)中的过程噪声;
结合式(7)和(10),设计如式(11)形式的滤波器:(11)
其中, 为待估计的增益矩阵;
(2)多隐层神经网络
第一层隐层的输出为:
(12)
其中,上标1表示的是多隐层网络的第一层, 表示的是第一层隐层的偏置向量,第二层隐层的输出为:(13)
其中, 表示的是第一层隐层到第二层隐层的整体偏置向量,第 层隐层的输出为:(14)
通过由内到外的逐层求解得到 , ,…, ,逐步得到更新后的参数;
结合式(14),整个多隐层网络模型的输出:(15)
其中 , ;
多隐层神经网络参数更新具体为:
1)隐层到输出层的权重参数 更新,在对网络第 层隐层中的权重参数进行更新时,假设除当前隐层权重参数 外,其它参数都是不变的;将需要被更新的参数作为状态变量进行建模,对第 层隐层的权重参数 更新时,将 作为状态变量,结合式(8),设计滤波器为:(16)
2)输入层到隐层的权重参数 更新,在对第 层隐层权重 更新时,假设除当前隐层的参数 外,其它参数都是不变的,对第 层隐层的权重参数 更新时,将 作为状态变量,设计如式(17)形式的滤波器:(17);
所述S2具体为:
在基于梯度下降法的神经网络中,损失函数建模为:(18)
其中 为样本数, 为输入层到隐层的权重, 为输入层到隐层的偏置, 为隐层到输出层的权重, 为隐层到输出层的偏置,结合式(18),在损失函数中添加稀疏约束项,建立了如式(19)所示的稀疏损失函数:(19)
其中,式(19)在式(18)的基础上,对网络中需要更新的四个参数都添加了稀疏约束项,用来调节稀疏程度的可变参数;
结合式(19),求取梯度方向:(20)
结合式(20),稀疏梯度下降算法迭代过程为:a)求解损失函数的梯度,其中神经网络模型四个参数的梯度表达式分别为:, , ,
(21)
b)求取当前位置在梯度方向上下降的距离:, , ,
(22)
其中, 为学习率;
c)如果 , , , 都小于某个设定的值 ,则迭代终止,否则进入步骤4);
d)对参数值进行更新,更新完后再跳转到步骤a), (23)
(24)
(25)
(26)
式(23)‑(26)即为基于稀疏梯度下降法得到的更新后的网络参数,用其去建立神经网络模型,得到的即为稀疏神经网络模型。
2.根据权利要求1所述的一种超非线性输入输出系统基于CFF的参数辨识方法,其特征在于,所述S3具体为:在神经网络模型中,对参数更新时,都是将需要更新的参数作为状态变量,将其建模成式(27)‑(28)的形式: (27)
(28)
其中, 为状态转移矩阵, 、 为系统噪声,对式(27)‑(28)进行CFF的算法流程,得到其状态估计值 ,结合式(27),由真实值和滤波估计值计算估计误差:(29)
考虑到实际噪声统计特性的难以获取,结合式(29)所示的状态估计误差的统计特性,去建模式(27)中状态噪声 ;
结合预测误差模型及式(29),计算系统的测量预测误差:(30)
用式(30)去对式(28)中测量噪声 进行建模,用系统误差去建模实际噪声,得到更加真实的滤波结果。