欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2024118812411
申请人: 安徽大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,包括以下步骤:

S1.从教育平台收集学生、学习资源等数据,构建学生-资源交互图和其他关系图,生成异构图并划分为训练集、验证集和测试集,同时初始化节点特征作为模型输入;

S2.通过多种元路径在异构图中捕获节点间的语义关系;采用节点级注意力聚合邻居信息,再通过语义级注意力融合不同元路径嵌入,生成多语义节点表示;

S3.在元路径聚合中引入传播约束概率,结合节点特征相似性计算邻居置信度,从而识别出噪声邻居并指导模型聚合积极邻居的信息;

S4.设计可微分掩码操作,根据置信度筛选邻居节点,掩蔽不可靠节点并通过softmax生成净化注意力值进行节点级聚合;最后通过语义级注意力融合节点级嵌入,生成节点的最终表示;

S5.利用语义级聚合的节点嵌入,通过点积预测学生与学习资源的交互概率;采用BPR损失优化正负样本分数差异,并用SGD和Adam优化器训练模型,最终通过验证集调参和测试集评估性能。

2.根据权利要求1所述的基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,所述S1具体包括以下内容:S101:从教育平台中收集学生、资源、知识点信息,构造学生集合U={u1,u2,u3,…,u|U|},资源集合C={c1,c2,c3,…,c|C|},学生年龄集合A={a1,a2,a3,…,a|A|},以及知识点集合B={b1,b2,b3,…,b|B|};

S102:基于学生与学习资源的交互行为构建交互关系图;定义邻接矩阵当学生ui∈U与学习资源cj∈C存在交互时,设uicj=1,否则设为0;其他关系交互图依此类推;

S103:构建异构图,利用不同的关系交互图,构建异构图其中V表示节点集合,E表示边集合,表示节点类型集合,表示边类型集合;

S104:划分数据集,将数据集随机划分为训练集、验证集和测试集;数据集的划分对象主要是学生与学习资源之间的直接交互数据验证集用于中间模型评估和参数调整,测试集则按比例保留每个学生的交互行为,用于生成候选资源C;

S105:初始化节点表示向量,为异构图中各种类型的节点初始化表示向量其中D表示向量的维度;初始化后的表示向量存储到各自的表示向量字典中,作为后续模型的初始输入。

3.根据权利要求2所述的基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,所述S2具体包括以下内容:S201:构建元路径,根据步骤S1中生成的邻接矩阵,构建异构图,并设计四种适合资源推荐的元路径:ΦUCU为学生-资源-学生、ΦUAU为学生-年龄-学生、ΦCUC为资源-学生-资源和ΦCBC为资源-知识点-资源;这些元路径用于提取异构图中的多种语义关系,为后续的节点信息聚合提供基础;

S202:节点级注意力机制,通过节点级注意力机制,捕获局部节点的关键信息,聚合来自特定元路径构建的子图中相邻节点的信息;节点级聚合过程定义如下:其中表示目标节点v对邻居节点u的注意力系数由步骤四和步骤五得到;表示通过元路径获得的目标节点v的节点级嵌入表示;是节点的初始向量;是通过元路径Φ确定的目标节点v的邻居节点集合;σ是激活函数。

S203:语义级注意力机制,由于每条元路径学习到的节点级嵌入携带独特的语义信息,需要通过语义级注意力机制对这些嵌入进行综合,从而生成目标节点的最终嵌入表示;语义级聚合过程定义如下:其中,表示目标节点v的语义级嵌入表示;为目标节点v在第i条元路径下的节点级嵌入;是语义级注意力权重,反映不同元路径的重要性。语义级注意力机制能够有效融合多元语义信息,生成节点的高质量嵌入表示,进一步提升模型对异构图的表达能力。

4.根据权利要求3所述的基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,所述S3具体包括以下内容:S301:节点特征的统一映射,对于类型为的目标节点v,通过一个特定于节点类型的特征变换矩阵WA,将节点的特征向量投影到公共空间中,其特征表示为:其中,hv为目标节点v在公共空间中的投影特征,为目标节点v在元路径Φi下的初始特征向量;

S302:节点之间的相似性计算,在给定元路径Φ的情况下,具有相似特征的节点比特征差异较大的节点对目标节点更重要;因此,通过节点特征之间的点积来定义相邻节点的相似性,从而评估邻居节点u对目标节点v的重要性;该相似性表示为:S303:传播约束概率矩阵的计算,为增强模型对节点关系的建模能力,引入基于元路径的传播约束概率;给定元路径首先计算单个邻接矩阵的传播约束概率矩阵:其中,为边类型的邻接矩阵,为对应的度矩阵的逆矩阵;矩阵中的每个元素表示从节点u通过边类型到节点v的传播约束概率;通过沿元路径逐步相乘单个传播约束概率矩阵,可以计算元路径Φ的总体传播约束概率矩阵:S304:结合传播约束概率与相似性计算置信得分,基于元路径的传播约束概率可以看作是节点传播过程中的一种约束条件,用于指导模型更准确地学习有效信息;为了识别目标节点v的不可靠邻居,结合节点特征重要性和传播约束概率定义邻居节点的置信向量:其中,是邻居节点的置信度得分。

5.根据权利要求4所述的基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,所述S4具体包括以下内容:S401:设计可微分掩码操作,对于目标节点v,通过构造掩码向量即置信度对掩码操作进行建模:其中,用于控制邻居节点对目标节点v的影响;

S402:掩蔽不可靠邻居节点,通过步骤S401,已甄别出不可靠的邻居节点,并将其掩码值设置为-∞;当对邻居节点的掩码值和基于特征的重要性之和应用softmax函数时,不可靠的邻居节点将被有效剪枝;

S403:生成净化的注意力权重,掩码向量被用作注意力掩码,用于过滤掉不可靠的邻居节点,并通过softmax函数计算净化后的注意力值S404:基于净化注意力值的节点级聚合,对于目标节点v,净化的注意力值被引入到异构图神经网络的节点级聚合过程中,用于屏蔽不可靠邻居并去除异构图中的噪声;节点级嵌入向量通过以下公式计算:其中,是通过元路径Φ获得的目标节点v的节点级嵌入表示,hu是邻居节点的投影向量,是基于元路径Φ确定的邻居节点集合,σ是激活函数;

S405:采用语义级注意力机制进一步评估不同元路径对目标节点嵌入的贡献;对于一组元路径{Φ1,Φ2,…,Φn}和目标节点v,获得节点的一组节点级嵌入向量随后,通过以下公式计算元路径Φ∈{Φ1,Φ2,…,Φn}的重要性:其中W和b分别表示多层感知机(MLP)的权重矩阵和偏差项;qT是用于捕获语义级别重要性的注意力向量;

S406:语义级注意力权重归一化与最终节点嵌入,通过对元路径的重要性权重wφ应用softmax函数进行归一化,得到语义级注意力权重βφ;最终,通过语义级聚合,将不同元路径下的节点级嵌入综合为目标节点v的最终嵌入表示

6.根据权利要求4所述的基于异构图去噪注意力网络的学习资源推荐方法,其特征在于,所述S5具体包括以下内容:S501:学生与学习资源交互得分预测,通过语义级聚合,可以分别获得学生u和学习资源c的最终嵌入向量和学生与资源之间的交互可能性通过两者嵌入向量的点积进行预测:其中,表示学生u与学习资源c之间交互可能性的预测得分;得分越大,学生与资源之间发生交互的可能性越高;

S502:针对学习资源推荐任务,采用贝叶斯个性化排名的成对损失函数;

S503:贝叶斯个性化排名损失函数的定义,对于每个训练样本,目标是最大化正负样本预测分数的差异,从而优化模型;贝叶斯个性化排名损失函数定义如下:是训练三元组集合,(u,c+)表示学生与资源发生交互,(u,c-)表示学生与资源未交互;函数ln(·)和sigmiod(·)分别指对数函数和sigmoid函数;λ是决定正则项权重的超参数;通过优化上述BPR损失函数,模型试图最大化正样本与负样本的预测分数差异,即从而满足学习资源推荐任务的排序要求;

S504:模型训练与评估,在模型训练过程中,采用随机梯度下降法和Adam优化器对模型参数进行优化。

7.基于异构图去噪注意力网络的学习资源推荐系统,其特征在于,包括:

数据集构建模块:从教育平台收集学生、学习资源等数据,构建学生-资源交互图和其他关系图,生成异构图并划分为训练集、验证集和测试集,同时初始化节点特征作为模型输入;

多语义节点表示模块:通过多种元路径在异构图中捕获节点间的语义关系;采用节点级注意力聚合邻居信息,再通过语义级注意力融合不同元路径嵌入,生成多语义节点表示;

置信度计算模块:在元路径聚合中引入传播约束概率,结合节点特征相似性计算邻居置信度,从而识别出噪声邻居并指导模型聚合积极邻居的信息;

去噪模块:设计可微分掩码操作,根据置信度筛选邻居节点,掩蔽不可靠节点并通过softmax生成净化注意力值进行节点级聚合;最后通过语义级注意力融合节点级嵌入,生成节点的最终表示;

模型优化模块:利用语义级聚合的节点嵌入,通过点积预测学生与学习资源的交互概率;采用BPR损失优化正负样本分数差异,并用SGD和Adam优化器训练模型,最终通过验证集调参和测试集评估性能。

8.根据权利要求7所述的基于异构图去噪注意力网络的学习资源推荐系统,其特征在于,所述多语义节点表示模块具体包括以下内容:S201:构建元路径,根据步骤S1中生成的邻接矩阵,构建异构图,并设计四种适合资源推荐的元路径:ΦUCU为学生-资源-学生、ΦUAU为学生-年龄-学生、ΦCUC为资源-学生-资源和ΦCBC为资源-知识点-资源;这些元路径用于提取异构图中的多种语义关系,为后续的节点信息聚合提供基础;

S202:节点级注意力机制,通过节点级注意力机制,捕获局部节点的关键信息,聚合来自特定元路径构建的子图中相邻节点的信息;节点级聚合过程定义如下:其中表示目标节点v对邻居节点u的注意力系数由步骤四和步骤五得到;表示通过元路径获得的目标节点v的节点级嵌入表示;是节点的初始向量;是通过元路径Φ确定的节点v的邻居节点集合;σ是激活函数。

S203:语义级注意力机制,由于每条元路径学习到的节点级嵌入携带独特的语义信息,需要通过语义级注意力机制对这些嵌入进行综合,从而生成目标节点的最终嵌入表示;语义级聚合过程定义如下:其中,表示目标节点v的语义级嵌入表示;为目标节点v在第i条元路径下的节点级嵌入;是语义级注意力权重,反映不同元路径的重要性。语义级注意力机制能够有效融合多元语义信息,生成节点的高质量嵌入表示,进一步提升模型对异构图的表达能力。

9.根据权利要求8所述的基于异构图去噪注意力网络的学习资源推荐系统,其特征在于,所述置信度计算模块具体包括以下内容:S301:节点特征的统一映射,对于类型为的目标节点v,通过一个特定于节点类型的特征变换矩阵WA,将节点的特征向量投影到公共空间中,其特征表示为:其中,hv为目标节点v在公共空间中的投影特征,为目标节点v在元路径Φi下的初始特征向量;

S302:节点之间的相似性计算,在给定元路径Φ的情况下,具有相似特征的节点比特征差异较大的节点对目标节点更重要;因此,通过节点特征之间的点积来定义相邻节点的相似性,从而评估邻居节点u对目标节点v的重要性;该相似性表示为:S303:传播约束概率矩阵的计算,为增强模型对节点关系的建模能力,引入基于元路径的传播约束概率;给定元路径首先计算单个邻接矩阵的传播约束概率矩阵:其中,为边类型的邻接矩阵,为对应的度矩阵的逆矩阵;矩阵中的每个元素表示从节点u通过边类型到节点v的传播约束概率;通过沿元路径逐步相乘单个传播约束概率矩阵,可以计算元路径Φ的总体传播约束概率矩阵:S304:结合传播约束概率与相似性计算置信得分,基于元路径的传播约束概率可以看作是节点传播过程中的一种约束条件,用于指导模型更准确地学习有效信息;为了识别目标节点v的不可靠邻居,结合节点特征重要性和传播约束概率定义邻居节点的置信向量:其中,是邻居节点的置信度得分。

10.根据权利要求4所述的基于异构图去噪注意力网络的学习资源推荐系统,其特征在于,所述去噪模块具体包括以下内容:S401:设计可微分掩码操作,对于目标节点v,通过构造掩码向量即置信度对掩码操作进行建模:其中,用于控制邻居节点对目标节点v的影响;

S402:掩蔽不可靠邻居节点,通过步骤S401,已甄别出不可靠的邻居节点,并将其掩码值设置为-∞;当对邻居节点的掩码值和基于特征的重要性之和应用softmax函数时,不可靠的邻居节点将被有效剪枝;

S403:生成净化的注意力权重,掩码向量被用作注意力掩码,用于过滤掉不可靠的邻居节点,并通过softmax函数计算净化后的注意力值S404:基于净化注意力值的节点级聚合,对于目标节点v,净化的注意力值被引入到异构图神经网络的节点级聚合过程中,用于屏蔽不可靠邻居并去除异构图中的噪声;节点级嵌入向量通过以下公式计算:其中,是通过元路径Φ获得的目标节点v的节点级嵌入表示,hu是邻居节点的投影向量,是基于元路径Φ确定的邻居节点集合,σ是激活函数;

S405:采用语义级注意力机制进一步评估不同元路径对目标节点嵌入的贡献;对于一组元路径{Φ1,Φ2,…,Φn}和目标节点v,获得节点的一组节点级嵌入向量随后,通过以下公式计算元路径Φ∈{Φ1,Φ2,…,Φn}的重要性:其中W和b分别表示多层感知机(MLP)的权重矩阵和偏差项;qT是用于捕获语义级别重要性的注意力向量;

S406:语义级注意力权重归一化与最终节点嵌入,通过对元路径的重要性权重wΦ应用softmax函数进行归一化,得到语义级注意力权重βΦ;最终,通过语义级聚合,将不同元路径下的节点级嵌入综合为目标节点v的最终嵌入表示。