1.一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法,其特征在于,所述方法应用于TE化工过程,选用其中22个连续测量变量和12个操纵变量作为原始输入,Stream 9中的E成分浓度作为软测量模型的输出;
具体包括以下步骤:
(1)采集数据形成样本集,将样本集分为训练集Dtrn和验证集Dval,对训练集Dtrn进行随机重采样,获得一组共计M个建模样本子集{(X1,y1);…;(XM,yM)},对每个建模样本子集进行PMI相关性分析,构建一组共计M个输入子空间{S1,…,SM};
n×d
所述步骤(1)中训练集Dtrn={Xtrn,ytrn},其中,Xtrn表示输入,ytrn表示输出,Xtrn∈R ,n×1ytrn∈R ,n为Dtrn中的训练样本数,d为过程变量数;
对建模样本子集进行PMI相关性分析的过程为:
①初始化输入变量集V={(X1,…,Xd)},已选变量集Z=Φ,Y为输出变量;
②计算每个输入变量与输出变量的PMI(Xr,Y|Z):其中N为样本数,X为候选变量,x',y'表示样本数据集中第n个样本的冗余成分,fX'(x')和fY'(y')是边缘概率密度,fX',Y'(x',y')是联合概率密度;
③选出②中PMI值最高的候选变量X,如果该PMI值高于第95百分位随机化PMI阈值,则将其加入Z,否则终止变量选择;
④重复②和③直至选出所有重要变量;
(2)基于原始训练样本Dtrn估计得到GMM的参数,然后提取输入子空间{S1,…,SM的对应原始训练样本,得到一组共计M个新的训练样本子集,对于每一个新的训练样本子集,根据GMM算法将其划分为C个局部建模区域{LD1,…LDk,…LDc},则相应的局部数据集为{D1,…h×d h×1Dk,…Dc},将第k个数据集表示为 其中,Xk∈R ,yk∈R ,h为局部数据集的样本数,由此构建一组高斯过程回归基模型{GPR1,…,GPRc};
(3)计算第k个数据集Dk中任意一个样本x*属于第k个局部区域LDk的后验概率,根据后验概率将步骤(2)中获得的基模型{GPR1,…,GPRc}进行加权集成,获得第一层集成输出,从而构建一组共计M个EGPR模型;
所述步骤(3)的具体内容如下:
计算第k个数据集Dk中任意一个样本x*属于第k个局部区域LDk的后验概率并将其作为权值系数,将基模型的输出进行融合,得到EGPR模型,即第一层集成输出:第一层集成预测方差:
其中, 和 分别为基模型GPRk的预测均值和预测方差,P(LDk|x*)为样本x*属于第k个局部区域LDk的后验概率,通过贝叶斯推理策略估计为:其中,P(LDk)和P(x*|LDk)分别为先验概率和条件概率,(4)将EGPR局部模型的预测精度和多样性指标作为目标函数,采用NSGA‑Ⅱ算法进化多目标优化,选出Mselect个EGPR模型进行第二层集成;
所述步骤(4)的具体内容如下:
①构建多目标优化问题:将EGPR模型的预测精度f1和多样性指标f2作为目标函数,构建如下多目标优化问题:max[f1,f2]
②求解上述多目标优化问题:第一层集成获得了M个EGPR模型,即{EGPR1,EGPR2,…,EGPRM},对所有EGPR模型进行二进制编码,将这一串编码作为决策变量,其中1表示选中该模型,0表示未选中,模型选择数目Mselect为约束条件;
给定验证集Dval,预测精度f1定义为基于验证数据的平均预测误差:其中, 为基于验证样本的单个EGPRi模型的预测均方根误差,m=1,2,…,M;
多样性指标f2定义为基于验证数据的任意两个模型之间的相关系数平均值:其中,
式中,eα,eβ分别表示第α个和第β个EGPR模型的预测误差,Cov(·,·)用于计算任意两个误差之间的协方差,Var(·)表示方差算子;
max[f1,f2]转化为最小化优化问题min[RMSEavg,val,ravg,val];
③采用NSGA‑Ⅱ算法,设置种群数和迭代数进行优化,得到Pareto最优解集,其中任意一个Pareto解对应一组EGPR模型的二进制变量组合,解码后,获得Mselect个参与第二层集成的EGPR模型;
(5)采用PLSstacking方法将选中的Mselect个EGPR模型进行第二次集成融合构建集成模型,对于一个新的测试样本点xnew,将选中的Mselect个EGPR模型的预测输出作为集成模型的输入,最终得到测试样本点xnew的预测输出;
在Stacking框架下采用PLS对选中的Mselect个EGPR模型训练集成模型,基于验证集Dval估计PLS集成模型参数ωi,i=1,…,Mselect,最佳主成分由交叉验证确定;
测试样本xnew的第一层集成预测方差和均值由步骤(2)计算得到,分别表示为第二层集成预测输出为:2
根据不确定度合成原理,第二层集成预测方差σ为:
其中, σi,new和σj,new为任意两个EGPR模型的预测输出不确定度;ρij为σi,new和σj,new的之间的相关系数,ρij值按下述方法确定:给定验证集Dval={Xval,yval},可获得任意两个GPR基模型在Dval上的预测均值向量和方差向量 ρij为:
2.根据权利要求1所述的基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法,其特征在于,所述步骤(2)中高斯过程回归基模型{GPR1,…,GPRc}的建立过程为:对Dk中的样本x*,第k个基GPRk模型的局部预测输出 服从高斯分布:所述GPRk模型可描述为:
T
其中,kk,*=[C(x*,xk,1),…,C(x*,xk,n)] , 和 分别为基模型GPRk的预测均值和方差。