1.一种基于Transformer模型的环境时序数据处理方法,其特征在于,包括以下步骤:S1:收集环境监测站点的历史环境监测数据时序;
设历史环境监测数据时序为:S={S1,S2,……,SN};其中S1,S2,……,SN表示对应时刻的环境数据;设历史环境监测数据时序S中的时间间隔为δt;
S2:模型选择与训练;
具体包括以下步骤:
S2.1:选择Transformer模型结构;
S2.2:选择窗口长度T,将S中连续 个数据点删除,形成输入序列S’;被删除的P个连续数据点构建为原始目标序列y;
其中,表示向上取整;T为窗口长度;
因为S中共有N个环境数据,并且删除的连续P个数据点中第一个数据点的位置不确定,所以共能构建N-P+1个不同的输入序列S’,共产生对应的N-P+1个原始目标序列y;将输入序列S’与对应的原始目标序列y,组成数据对S’-y;共能构建N-P+1个S’-y数据对;
在不同窗口长度T的情况下,均具有N-P+1个S’-y数据对;但是,窗口长度T的取值不同,删除的数据点数量P不同,S’-y数据对的数量N-P+1也不同;
S2.3:针对某一窗口长度T,将该窗口长度T情况下的某一S’-y数据对中的输入序列S’输入到Transformer模型中;Transformer模型预测该S’-y数据对中输入序列S’中缺失的数据,预测结果记为预测目标序列;
S2.4:针对S2.3中的S’-y数据对,建立模型训练优化目标,迭代优化Transformer模型参数;形成最终的Transformer模型;
不同的窗口长度T组成的最终的Transformer模型以集合的形式组成模型组,模型组记为M0;
S3:用模型组Mo对待处理的序列S0={S01,S02,……,S0k,……,S0N}进行预测;k∈[1,N],k为正整数;
具体包括以下步骤:
S3.1:删除S0中的第一个原始数据S01;
S3.2:用模型组M0中的三个模型,分别对S0中缺失的第一个原始数据S01进行预测,并取模型组M0三个预测结果的平均值代替S0中缺失的第一个原始数据S01;记三个模型对缺失的第一个原始数据S01的预测结果平均值为S01,平;生成预测序列S预,1={S01,平,S02,……,S0k,……,S0N};
S3.3:采用和步骤S3.1、S3.2相同的方法,继续删除S预,k中第k+1个原始数据S0(k+1);
S3.4:用模型组M0中的三个模型,分别对S预,k中缺失的第k+1个原始数据S0(k+1)进行预测,并取模型组M0三个预测结果的平均值代替S预,k中缺失的第k+1个原始数据S0(k+1),记三个模型对缺失的第k+1个原始数据S0(k+1)的预测结果平均值为S0(k+1),平;生成预测序列S预,k+1={S01,平,……,S0(k+1),平,S0(k+2),……,S0N};
S3.5:重复S3.3-S3.4,从K取1到k取N-1依次循环,直至S预,N-1中的S0N被删除,生成预测序列S预,N,则,S预,N={S01,平,S02,平,……,S0N,平};序列S预,N为序列S0的预测结果。
2.根据权利要求1所述的一种基于Transformer模型的环境时序数据处理方法,其特征在于,步骤S2.4中,将S’-y数据对中输入序列S’的预测目标序列与S’-y数据对中原始目标序列y的均方误差e作为模型训练优化目标,公式为:;
其中,yi表示原始目标序列y中第i个数据;表示预测目标序列中第i个数据;P为删除的数据点数量;通过梯度反向传播迭代更新Transformer模型参数,逐步迭代直到e不再继续减小,则Transformer模型收敛,形成该窗口长度T下最终的Transformer模型;
更换S2.2中窗口长度T,重复S2.2-S2.4,形成其他窗口长度T下的最终的Transformer模型;
将最终的Transformer模型记为Mx,x表示窗口长度T的时间长度。
3.根据权利要求1所述的一种基于Transformer模型的环境时序数据处理方法,其特征在于,所述窗口长度T为1小时、6小时或者12小时,时间间隔δt为1小时。
4.根据权利要求1所述的一种基于Transformer模型的环境时序数据处理方法,其特征在于,所述Transformer模型结构选择Encoder-Decoder架构。