欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 202010273754X
申请人: 苏州大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于变分自注意力网络的序列推荐方法,其特征在于,包括:根据历史交互序列,生成输入嵌入矩阵,所述输入嵌入矩阵包括所述历史交互序列中各个项目的项目嵌入信息和位置嵌入信息;

将所述输入嵌入矩阵输入推断自注意力网络,得到自注意力向量,并根据所述自注意力向量确定变分参数;

利用重新参数化方法,根据所述变分参数确定潜在变量;

利用生成自注意力网络,根据所述潜在变量生成所述历史交互序列的表示,以作为用户偏好表示;

利用预测层根据所述用户偏好表示确定交互概率最大的候选项目,以作为推荐结果;

其中,所述将所述输入嵌入矩阵输入推断自注意力网络,得到自注意力向量,包括:利用推断自注意力网络中的投射层,根据所述输入嵌入矩阵和推断投射矩阵,确定推断投射结果;

利用推断自注意力网络中第一预设数量的自注意力块,根据所述推断投射结果生成自注意力向量 其中,h1为所述第一预设数量,n表示序列长度;

其中,所述根据所述自注意力向量确定变分参数,包括:u

根据所述自注意力向量,确定均值和方差,以作为近似后验分布qλ(z|S)的变分参数,其中所述均值为 所述方差为 l1(·)表示线性变换,l2(·)表示另u

一种线性变换,λ表示变分自注意力网络的近似参数,S表示所述历史交互序列,z表示所述潜在变量;

其中,所述利用重新参数化方法,根据所述变分参数确定潜在变量,包括:利用重新参数化方法,根据所述变分参数确定潜在变量,所述潜在变量为:z=uλ+σλ·ε,其中,ε表示标准高斯变量;

其中,所述利用生成自注意力网络,根据所述潜在变量生成所述历史交互序列的表示,包括:利用生成自注意力网络中的投射层,根据所述潜在变量和生成投射矩阵,确定生成投射结果;

u

利用生成自注意力网络中第二预设数量的自注意力块,基于条件分布pθ(S|z),根据所述生成投射结果生成所述历史交互序列的表示 其中,h2为所述第二预设数量,θ表示变分自注意力网络的真实参数。

2.如权利要求1所述的方法,其特征在于,所述根据历史交互序列,生成输入嵌入矩阵,包括:根据历史交互序列,生成输入嵌入矩阵,所述输入嵌入矩阵为: 其中i∈(1,n),n表示序列长度,Ai表示第i个项目的项目嵌入信息,Pi表示第i个项目的位置嵌入信息。

3.如权利要求1所述的方法,其特征在于,所述利用预测层根据所述用户偏好表示确定交互概率最大的候选项目,以作为推荐结果,包括:根据目标公式,利用预测层基于所述用户编号表示预测候选项目集合中交互概率最大的候选项目,以作为推荐结果,所述目标公式为: 其中 表示预测得到的用户u在t时间交互概率最大的候选项目, 表示用户偏好表示 的第t行, N表示所述候选项目集合中候选项目的数量,d表示向量维度。

4.如权利要求1‑3任意一项所述的方法,其特征在于,还包括:根据损失函数,对变分自注意力网络的真实参数和近似参数进行优化,所述损失函数为:户u在t时间的实际交互项目, 表示预测得到的用户u在t时间交互概率最大的候选u项目,S表示所述历史交互序列,θ和λ分别表示变分自注意力网络的真实参数和近似参数,σλj表示σλ的第j行,μλj表示uλ的第j行。

5.一种基于变分自注意力网络的序列推荐装置,其特征在于,包括:嵌入模块:用于根据历史交互序列,生成输入嵌入矩阵,所述输入嵌入矩阵包括所述历史交互序列中各个项目的项目嵌入信息和位置嵌入信息;

推断模块:用于将所述输入嵌入矩阵输入推断自注意力网络,得到自注意力向量,并根据所述自注意力向量确定变分参数;

参数化模块:用于利用重新参数化方法,根据所述变分参数确定潜在变量;

生成模块:用于利用生成自注意力网络,根据所述潜在变量生成所述历史交互序列的表示,以作为用户偏好表示;

预测模块:用于利用预测层根据所述用户偏好表示确定交互概率最大的候选项目,以作为推荐结果;

其中,所述推断模块,具体用于利用推断自注意力网络中的投射层,根据所述输入嵌入矩阵和推断投射矩阵,确定推断投射结果;

利用推断自注意力网络中第一预设数量的自注意力块,根据所述推断投射结果生成自注意力向量 其中,h1为所述第一预设数量,n表示序列长度;

其中,所述推断模块,具体用于根据所述自注意力向量,确定均值和方差,以作为近似u后验分布qλ(z|S)的变分参数,其中所述均值为 所述方差为 l1u

(·)表示线性变换,l2(·)表示另一种线性变换,λ表示变分自注意力网络的近似参数,S表示所述历史交互序列,z表示所述潜在变量;

其中,所述参数化模块,具体用于利用重新参数化方法,根据所述变分参数确定潜在变量,所述潜在变量为:z=uλ+σλ·ε,其中,ε表示标准高斯变量;

其中,所述生成模块,具体用于利用生成自注意力网络中的投射层,根据所述潜在变量和生成投射矩阵,确定生成投射结果;

u

利用生成自注意力网络中第二预设数量的自注意力块,基于条件分布pθ(S|z),根据所述生成投射结果生成所述历史交互序列的表示 其中,h2为所述第二预设数量,θ表示变分自注意力网络的真实参数。

6.一种基于变分自注意力网络的序列推荐设备,其特征在于,包括:存储器:用于存储计算机程序;

处理器:用于执行所述计算机程序,以实现如权利要求1‑4任意一项所述的基于变分自注意力网络的序列推荐方法的步骤。