1.一种网络故障预测方法,其特征在于,包括如下步骤:S1.将网络故障数据进行预处理,所述网络故障数据包括故障类型、所述故障类型发生的时间戳,将所述网络故障数据转化为时间序列数据,每个时间序列数据表示当前时间段发生的所有故障类型;
S2.构建基于门控多头注意力的神经网络模型,所述神经网络模型包括嵌入层、注意力记忆网络层、多头注意力层以及门控融合层,将所述时间序列数据输入所述基于门控多头注意力的神经网络模型,所述基于门控多头注意力的神经网络模型对网络故障数据中的故障进行预测。
2.根据权利要求1所述的网络故障预测方法,其特征在于,S1具体包括:将收集到的网络故障数据进行预处理,根据故障类型的时间戳,得到时间序列上的所有故障类型。
3.根据权利要求2所述的网络故障预测方法,其特征在于,S2具体包括:S21.构建嵌入层,以所述时间序列数据为输入,将所述时间序列数据从稀疏数据表示转化为稠密向量,得到嵌入向量s;
S22.构建注意力记忆网络层,所述注意力记忆网络层用来挖掘网络故障类型之间的第一关系,所述嵌入向量s为注意力记忆网络层的输入;
S23.构建多头注意力层,所述多头注意力层用来计算网络故障类型之间的第二关系,计算公式如下:
其中Q,K,V分别代表注意力query,注意力key和注意力value的矩阵向 量,表示向量Q和K的特征维;
使用K的多头注意力:
MultiHeadAttention(H)=Concat(head1,...,headk),其中
headj=Attention(Q,K,V)多头注意操作将f(i,l)作为输入馈送到不同的头注意层,其结果被进一步连接为最终输出:
T(i,l)=MultiHeadAttention(f(i,l))S24.构建门控融合层,所述门融合层用来对将要发生的故障进行预测,公式如下:G=sigmoid(w1s+w2T(i,l)+b)Ii=G*s+(1‑G)*T(ii)所述对将要发生的故障进行预测基于矩阵分解:T
Rij=(Ii) Ij
根据分解后的矩阵得到成对排名损失:其中,σ(x)=1/(1+exp(‑x))是逻辑sigmoid函数,D表示成对训练实例的集合强度。
4.根据权利要求3所述的网络故障预测方法,其特征在于,S22具体包括:S221.从注意力权重矩阵K学习注意力向量a,根据对比不同网络故障类型找出相似度,并根据相似度赋予不同的权重系数,得到注意力分数向量a的每个元素,被定义为:d
其中Ki∈R,注意力权重矩阵K为随机初始化变量;
S222.使用softmax函数对注意力向量a进行归一化,得到最终的结果注意力分数aj:S223.嵌入向量s首先经由记忆矩阵M扩展到矩阵F:Fj=se Mj
其中,e表示向量的元素积,矩阵F用来描述时间序列中的故障发生情况;
S224.使用注意力分数来计算F的加权表示故障类型之间的第一关系,即
5.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时实现如权利要求1‑4中任一项所述网络故障预测方法的步骤。
6.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1‑4中任一项所述网络故障预测方法的步骤。