欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2021110909970
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种融合注意力机制的图神经网络模型推荐方法,其特征在于:该方法包括以下步骤:S1:输入数据预处理,输入数据预处理分为两个部分,用户物品模型和用户社交模型;

S2:在S1步骤得到的用户物品模型中,计算用户ui在集合V上的邻域节点集合集合中的物品节点vj按时间t升序排列,得到长度为L的物品序列S(ui)=[v1,v2,…,vL];对序列S(ui)中的物品元素vj通过onehot编码方式进行编码,然后进入嵌入层得到相应的嵌入向量以及对应评分的嵌入表示将与拼接并输入感知机降维,得到一个包含评分分值的物品信息表示ejτ并且更新物品序列S;

S3:将S2步骤更新后的物品序列S作为门控循环单元的输入,同时输入初始隐藏状态h0,得到门控循环单元在每个时刻最后输出构成的长度为L的序列其中k为门控循环单元的堆叠层数;

门控循环单元在时刻t进行下列计算:

rt=σ(Wirxt+bir+Whrh(t-1)+bhr)    (2)zt=σ(Wizxt+biz+Whzh(t-1)+bhz)    (3)nt=tanh(Winxt+bin+Whnh(t-1)+bhn)    (4)ht=(1-zt)⊙nt+zt⊙h(t-1)    (5)

其中,δ表示Dropout函数,σ表示Sigmoid激活函数,⊙表示元素乘积;xt表示当前时刻的输入,h(t-1)表示GRU单元上一时刻的隐藏状态;

S4:拼接h’与并经过线性层以及非线性ReLU函数的激活,得到作为邻域集合Nv(ui)的聚合结果;将聚合结果与顶点自身嵌入表示拼接,进行线性仿射与非线性激活,得到该用户节点第n次迭代的表示S5:在用户社交模型中,对于所有的用户和朋友,首先利用门控网络将用户和用户朋友嵌入,特征融合后得到融合嵌入向量表示;在得到融合向量S后,从注意力权重矩阵Q中学习注意力向量;

注意向量a的每个元素被定义为:然后,使用softmax函数对a进行归一化,得到最终结果:朋友嵌入u(i,j)经由记忆矩阵Q扩展到矩阵:

Fl=u(i,j)⊙Ql(7)其中⊙表示向量的元素积;矩阵F表示不同潜在方面中的朋友偏好;

最后,为了生成朋友向量表示,使用注意力分数来计算F的加权表示:

f(i,j)=ΣalFl(8)输出是一个特定的关系向量f(i,j),看作是用户i的第j个朋友对此用户偏好的影响向量;设f(i,1),f(i,2)…f(i,j)为注意力记忆模块生成的用户j的朋友关系向量;

S6:利用多头注意力机制,对于每一个用户Q,将其与上层得到的输入朋友向量K进行比较,得到不同朋友影响下的输出向量,公式如下:p(i,j)=MultiHeadAttention(Q,K,V)=Concat(head,…head)    (10)S7:将上层的输出与用户本身相融合,得到用户综合兴趣偏好;受门控机制的影响,门控G和最终得到的用户在受到朋友的不同方面影响下Ii的计算公式为:

2.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S3步骤中,门控循环单元的堆叠层数k为2。

3.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S3步骤中,Dropout函数的丢弃概率为0.5。

4.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S4步骤中,用户节点迭代的次数n为5。

5.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S4步骤中,初始嵌入维度为64。

6.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S6步骤中,多头注意力机制通过将Q、K和V进行线性映射,并对映射结果进行放缩点积注意力操作,然后将放缩点积注意力的结果拼接后输入线性映射层,最后得到多头注意力机制的结果;表示向量Q和K的特征维,用来避免过大的内积值。

7.根据权利要求1所述的一种融合注意力机制的图神经网络模型推荐方法,其特征在于:在所述S3步骤中,门控循环单元将xt和h(t-1)两者拼接,通过独立全连接层,得到rt控制的重置门控因子和zt控制的遗忘门控因子;其中(1-zt)⊙nt:表示对原本隐藏状态的选择性“遗忘”;zt⊙h(t-1):表示对包含当前节点信息的进行选择性“记忆”。