欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022100821370
申请人: 桂林电子科技大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于三通道图神经网络的会话推荐方法,其特征在于:包括以下步骤:(1)将会话序列数据转换为会话图、超图、全局图数据;

(2)图数据经过三个通道的图神经网络学习到三种项目嵌入;三个通道包括会话图通道、超图通道、全局图通道;会话图通道用于捕获会话中项目间的转换关系,超图通道用于捕获会话中项目间的高阶关系,全局图通道用于捕获不同会话中项目间的关系;

(3)融合三种通道形成的项目表征获得更完整项目转换信息;

(4)经过预测层输出项目的预测概率。

2.根据权利要求1所述的基于三通道图神经网络的会话推荐方法,其特征在于:会话图中,给定一个会话 表示在会话S中点击的项目vi并且会话长度是L;

Gs=(Vs,Es)表示会话图,将每个项目si∈Vs作为节点并且相邻的项目(si‑1,si)∈Es作为边;

Gh=(Vh,Eh)表示超图,Vh表示超图中N个不重复的顶点的集合,Eh表示超图中M个超边的集合;每个超边最少包含两个顶点,其中 并且 每个超N×M N×M

边被赋予一个权值whh,所有的权值构成了一个对角矩阵W∈R ;超图用矩阵H∈R 表示,其中当超边包含顶点vi∈V时,Hih=1,否则Hih=0;顶点和超边的度分别为Dii和Bhh,其中D和B是对角线矩阵;

全局图用于获取不同会话间项目转换的信息,Gg=(Vg,Eg)表示全局图,Vg代表所有项目的图节点的集合,Eg表示所有边的集合,每条边对应于所有会话中的两个成对项目。

3.根据权利要求2所述的基于三通道图神经网络的会话推荐方法,其特征在于:会话图嵌入的方法为:对于目标项目来说不同的相邻项目对目标项目的重要成度不同,使用注意力机制捕获不同节点间的权重;注意力系数如下所示:其中的sij表示项目vj对项目vi的重要性, 表示项目间的关系,hvi项目vi的嵌入,hvjd项目vj的嵌入,rij为vi与vj之间的关系也就是边关系,a∈R表示权重;然后,为了使不同节点间的系数具有可比性,通过softmax函数对注意权重进行归一化,如下式所示:αij=soft max(sij)

aij为归一化后节点vi和vj间的权重;

最后将得到的注意力系数和对应的项目线性组合,得到每个节点的输出,公式如下:表示节点。

4.根据权利要求3所述的基于三通道图神经网络的会话推荐方法,其特征在于:超图嵌入的方法为:超图通道用来捕获项目间的高阶关系,将超图卷积定义为:为l+1层项目嵌入,Hih、Hjh为关联矩阵中的值,whh为加权系数, 为l层的项目嵌入;

将上式写为矩阵的形式如下:

其中, 分别是l+1层的项目嵌入和l层的项目嵌入, 为节点到超边的0

信息聚合,并在此之前乘会话序列H查看从超边到节点的聚合信息;在最初的项目嵌入X 经过L层的超图卷积后,将每一层的嵌入求和取平均作为最后的项目嵌入通过位置嵌入将项目的位置信息加入项目嵌入中,P=[p1,p2,...,pk]为可学习的位置嵌入矩阵,k为当前会话的长度;加入位置信息的项目嵌入如下:其中, 为是有位置信息的项目嵌入,xi为没有位置信息的项目嵌入,pk‑i+1为项目的位d×2d d置信息,W1∈R 和b∈R是可以学习的参数;会话嵌入通过聚合该会话中的项目表示生成;

然后增强会话 的嵌入表示:

其中,αi为节点对序列的权重,Sh为项目嵌入的平均值,c为训练可得到的系数, 是会话s的嵌入用此会话中所有项目的平均嵌入表示 是会话s中第i个项目的d d×d d×d

嵌入,f∈R、W2∈R 、W3∈R 为注意力参数。

5.根据权利要求4所述的基于三通道图神经网络的会话推荐方法,其特征在于:全局图嵌入的方法为:每个项目都根据会话感知注意产生的评分进行线性组合,具体如下:h=∑vj∈vgπ(vi,vj)hvj

h为注意力分数,hvj为项目vj嵌入,π(vi,vj)用来计算不同邻居的权重;与当前会话越接近的项目越重要对应的权重越大;π(vi,vj)具体如下所示:π(vi,vj)=soft max(π(vi,vj))1

其中,用LeakyRelu作为激活函数,⊙表示对应位置元素相乘,‖表示链接操作,wij∈R是全局会话图中每条边的权重,W1和q1是可训练的参数,s是目标会话的特征,通过计算当前会话的平均得到的,然后通过softmax函数将与vi连接的所有相邻的项目的系数归一化;根据此注意力可以得出那些相邻的项目可以得到关注;

最后将目标项目信息和与目标项目临近项目的信息进行聚合,此过程通过一个非线性转换完成,具体如下:d×2d

hv为项目表示, 为项目表示与邻居表示聚合后的表示,Relu是激活函数,W2∈R 是可训练参数;

为了获取更高阶的信息我们将单层的聚合器扩展到多层,上一步中的公式表述为如下:(k‑1)

h 是先前的步骤生成的项目v的表达; 前一层的项目嵌入,Agg为聚合操作,聚合后的k阶项目表示,一个项目的k阶表示是由其初始表示和相邻k跳项目混合而成的。

6.根据权利要求5所述的基于三通道图神经网络的会话推荐方法,其特征在于:融合三种通道形成的项目表征获得更完整项目转换信息的方法为:首先将会话图通道和全局图通道产生的项目表示进行融合;

对于每一个项目,通过合并全局的表示和会话表示得到其最终的项目表示 具体计算如下:经过融合会话图通道和全局图通道产生的项目嵌入,生成会话嵌入项目的位置信息通过可学习的位置矩阵P=[p1,p2,...,pk]将项目的位置信息加入项目嵌入;然后通过连接操作和一个非线性变换将位置信息与项目表达进行整合;如下所示:加入位置信息后的会话序列用 为了捕获项目间的位置信息,将会话序列输入自注意力层:

Q K V 2d×d

其中,F为经过注意力后的会话表示,d是超参数,W、W、W∈R 为投影矩阵;

利用RELU激活函数增加的模型的非线性,在前馈网络后加入一个残差连接,如下所示:E=Relu(FW1+b1)W2+b2+FE为经过残差链接的会话表示,W1、W2是d×d维的矩阵,b1和b2是d维的偏置向量,为了防止过拟合,在训练过程中加入了Dropout正则化技术,将自注意力机制表述为:E=SAN(H)

最后将单个自注意力扩展为多头自注意力,如下所示:(k) (K‑1)

E =SAN(E )

(k) (k‑1)

E 为经过k层注意力后的会话表示,E 为经过k‑1层注意力后的会话表示;

将经过自注意力后的会话序列表示M=[m1,m2,...,mk],通过软注意力学习每个节点对序列的权重体现出不同节点对序列的重要程度不同,如下所示:其中,f·、αi都是可以训练的参数,σ表示软注意力公式, 是会话s的嵌入用此会话d d中所有项目的平均嵌入表示 mi是会话s中第i个项目的嵌入,f∈R 、W4∈R×d d×d、W5∈R 为注意力参数,最后将Ss,g和Sh结合形成最终的会话表示S=Ss,g+Sh。

7.根据权利要求6所述的基于三通道图神经网络的会话推荐方法,其特征在于:步骤(4)中,让每一个初始候选项目的嵌入和上节获得的会话表示进行点积运算再进过softmax获得推荐的概率,具体计算如下:S·为会话表示, 表示项目vi在目标会话中可能下一个被选择的概率;

通过最小化的目标函数来训练模型:

其中y表示项目的独热编码,λ为损失函数,y′i为预测值。