1.一种预测模型的训练方法,其特征在于,包括:对原始输入数据集进行变量选择,以得到选择变量特征集;
根据目标选择特征向量确定所述目标选择特征向量所对应的突变关键信息与目标上下文内容之间的短期相关性,所述目标选择特征向量为所述选择变量特征集中的任意一个选择特征向量,所述目标上下文内容为所述目标选择特征向量所对应的上下文内容;
根据所述短期相关性生成所述目标选择特征向量所对应的统一时间特征;
确定所述统一时间特征所对应的静态强化时间特征;
对所述静态强化时间特征进行稀疏概率自关注机制处理,得到目标时间特征;
对所述目标时间特征进行非线性处理,得到非线性处理时间特征;
根据所述非线性处理时间特征以及所述统一时间特征生成门控残差连接结果;
根据所述门控残差连接结果生成预测结果;
基于所述预测结果以及目标函数迭代执行上述步骤,直至达到预置的迭代终止条件得到预测模型。
2.根据权利要求1所述的方法,其特征在于,所述对原始输入数据集进行变量选择,以得到选择变量特征集包括:通过如下公式确定所述选择变量特征集:
其中,为所述选择变量特征集中t时刻的选择特征向量, 为所述原始输入数据集中的第j个变量在所述t时刻的转换特征向量,所述原始输入数据集中的每个变量均对应相应的权重 为所述原始数据集在所述t时刻的权重向量, 为 门控剩余网络,Δt为变换后的所述原始数据集在所述t时刻的选择变量特征集合,cs代表上下文向量, 是 的第j个元素。
3.根据权利要求1所述的方法,其特征在于,所述根据所述短期相关性生成所述目标选择特征向量所对应的统一时间特征包括:通过如下公式确定所述统一时间特征:
其中, 为所述统一时间特征, 为所述短期相关性,LayerNorm为层归一化运算, 为 门控线性单元, 为所述选择变量特征集中第m位置的选择特征向量,m∈[‑k,τmax]。
4.根据权利要求1所述的方法,其特征在于,所述确定所述统一时间特征所对应的静态强化时间特征包括:通过如下公式确定所述静态时间强化特征:
其中,v(t,m)为所述静态时间强化特征,GRNv为v门控剩余网络, 为所述统一时间特征,ce为上下文向量。
5.根据权利要求1所述的方法,其特征在于,所述对所述静态强化时间特征进行稀疏概率自关注机制处理,得到目标时间特征包括:通过如下公式确定所述目标时间特征:
Φ(t)=ProbSparseAttention(Υ(t),Υ(t),Υ(t));
其中,Φ(t)为所述目标时间特征,ProbSparseAttention为所述系数概率自关注机制,Υ(t)为所述静态强化时间特征构成的矩阵。
6.根据权利要求1所述的方法,其特征在于,所述对所述目标时间特征进行非线性处理,得到非线性处理时间特征包括:通过如下公式生成所述非线性处理时间特征:
ω(t,m)=GRNω(ρ(t,m));
其中,ω(t,m)为所述非线性处理时间特征,GRNω为ω门控剩余网络,ρ(t,m)通过如下公式确定:ρ(t,m)=LayerNorm(v(t,m)+GLUρ(φ(t,m)));
其中,LayerNorm为门控层,v(t,m)为所述静态时间强化特征,GLUρ为ρ门控线性单元,φ(t,m)为所述目标时间特征Φ(t)中的向量。
7.根据权利要求1所述的方法,其特征在于,所述根据所述非线性处理时间特征以及所述统一时间特征生成门控残差连接结果包括:通过如下公式确定所述门控残差连接结果:
其中, 为所述门控残差连接结果,LayerNorm为门控层, 为所述统一时间特征, 为 门控线性单元,ω(t,m)为所述非线性处理时间特征。
8.根据权利要求1所述的方法,其特征在于,所述根据所述门控残差连接结果生成预测结果包括:通过如下公式生成所述预测结果:
其中,为所述预测结果,Wq为指定分位数q的权重,bq为所述指定分位数q的线性系数,为所述门控残差连接结果。
9.根据权利要求1至8中任一项所述的方法,其特征在于,所述目标函数定义如下:其中,xk,t为t时刻的第k个序列的预测值,uk,t为所述t时刻的第k个序列的真值,C为均方根误差和平均绝对误差的融合比例常数, 为二阶差分运算,|.|为绝对值运算,λ为超参数λ,T为预测时间段,K为所述T所对应的时间序列数据集。
10.一种预测模型的训练装置,其特征在于,包括:变量选择单元,用于对原始输入数据集进行变量选择,以得到选择变量特征集;
短期相关性确定单元,用于根据目标选择特征向量确定所述目标选择特征向量所对应的突变关键信息与目标上下文内容之间的短期相关性,所述目标选择特征向量为所述选择变量特征集中的任意一个选择特征向量,所述目标上下文内容为所述目标选择特征向量所对应的上下文内容;
时间特征确定单元,用于根据所述短期相关性生成所述目标选择特征向量所对应的统一时间特征;
时间特征强化单元,用于确定所述统一时间特征所对应的静态强化时间特征;
时间特征处理单元,用于对所述静态强化时间特征进行稀疏概率自关注机制处理,得到目标时间特征;
非线性处理单元,用于对所述目标时间特征进行非线性处理,得到非线性处理时间特征;
门控残差连接单元,用于根据所述非线性处理时间特征以及所述统一时间特征生成门控残差连接结果;
预测单元,用于根据所述门控残差连接结果生成预测结果;
训练单元,用于基于所述预测结果以及目标函数迭代执行上述步骤,直至达到预置的迭代终止条件得到预测模型。