欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2024113558683
申请人: 山东科技大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于话题增强的对话推荐方法,其特征在于,具体包括如下步骤:S1,对于话题预测任务,设计基于知识的话题预测模块,将ConceptNet作为话题的外接知识库对话题进行了扩充,并通过交叉注意力使用当前的用户话题偏好去引导最终的话题偏好的生成;

S2,对于项目预测任务,设计基于多角度话题信息学习的项目推荐模块,将话题预测中得到的话题信息作为数据源引入到项目预测任务中去,并通过门控机制与原有数据进行融合,获得用户偏好;

S3,对于对话生成任务,基于Transformer结构设计基于话题增强的对话生成模块,融合话题信息与知识增强的对话组件;

步骤S2具体包括如下步骤:

S2.1,将对话文本序列 和话题词汇序列分别输入进模型并获得粗细粒度的偏好表示,分别为句子级别的用户偏好和单词级别的用户偏好,公式如下:(7);

(8);

其中,代表双向编码器表征模型;

S2.2,将历史交互序列输入基于自注意力机制的序列推荐模型中得到用户的交互偏好表征:(9);

S2.3,通过门机制对两个对话内容嵌入进行融合,得到当前对话内容中的部分用户偏好:(10);

(11);

其中,代表权衡参数,代表权重参数,代表sigmoid函数;

S2.4,将与相结合得到完整的用户偏好嵌入:(12);

步骤S2还包括如下步骤:

S2.5,将得到用户的负向话题反馈信息进行编码得到用户反馈嵌入:(13);

其中,为第个拒绝话题;

S2.6,使用相似度计算公式分离用户的负反馈信息与当前的正反馈信息,并得到反馈损失:(14);

其中,为余弦相似度函数,为批量大小,为损失超参数;

S2.7,根据公式(12)学习到的用户偏好,计算得到从项目集向用户U推荐的项目的概率:(15);

其中,是项目的学习嵌入,是激活函数;

S2.8,为了学习项目推荐模块的所有的参数,将交叉熵损失设置为:(16)。

2.根据权利要求1所述的一种基于话题增强的对话推荐方法,其特征在于,步骤S1具体包括如下步骤:S1.1,从ConceptNet中抽取与话题相关三元组,为了编码面向话题词汇的知识图谱KG,采用图卷积神经网络 GCN捕获话题之间的语义关系,在每次更新时,GCN从图中的一跳邻域接收信息,并执行如下聚合操作:(1);

其中,是节点的表示,代表节点数量,代表节点表示维度 ,是第层的可学习矩阵,是图的邻接矩阵,D是对角度矩阵,表示激活函数;

S1.2,将每轮对话中的话题词汇信息和当前对话文本分别拼接成话题词汇序列和当前对话文本序列,每次对话时将和分别输入到双向编码器表征模型中,得到每一轮对话的表征和,如下公式所示:(2);

(3);

其中,, 为输入中的话题词汇信息个数,为特征嵌入维度,为特征矩阵,为对话文本经由获得的嵌入,为话题词汇经由获得的嵌入。

3.根据权利要求2所述的一种基于话题增强的对话推荐方法,其特征在于,步骤S1还包括如下步骤:S1.3,将引入交叉注意力后带有知识的话题信息表示为:(4);

其中,表示定义的多头自注意力函数,表示话题词汇知识增强后的嵌入表示;

S1.4,为了学习最终的用户话题偏好信息,将、和进行融合,使用连接、和,并通过多层感知机与函数得到最终话题的预测概率:(5);

其中,代表话题特征表示,代表多层感知机模型;

S1.5,为了学习参数,将交叉熵损失设置为:(6);

其中,是会话,是话题,是会话数量,是每个会话的话题数量,是否成功预测的标签,取值为0或1,是预测的话题的概率,是正则项,是以e为底的自然对数。

4.根据权利要求1所述的一种基于话题增强的对话推荐方法,其特征在于,步骤S3包括如下步骤:S3.1,引入一个编码器,对当前对话进行编码,然后将学习到用户偏好表示作为交叉注意信号反馈到解码器中,经过自注意力层和交叉注意层之后的文本表示为:(17);

(18);

其中,是来自第(n−1)层解码器的嵌入矩阵,为经过自注意力层后的嵌入表示,为用户偏好嵌入经过交叉注意力层增强后的嵌入表示;

S3.2,设计两层交叉注意力机制,将知识增强的话题信息和历史语句引入,得到融合多种信息的嵌入矩阵:(19);

(20);

(21);

其中,为当前预测语句之前的历史语句与推荐项或话题结合的变体, 为前馈神经网络;

S3.3,生成含有话题项或者电影项目的句子,给定预测序列,下一个词汇预测概率计算为:(22);

其中,是将解码器输出作为输入,在词汇表上生成下一词汇的最大生成概率,表示在当前偏好和知识图谱KG上遵循标准复制机制实现的复制概率,为用户偏好感知,为使用的知识图谱DBpedia;

S3.4,使用交叉熵损失对对话模块的参数进行学习,交叉熵损失如下:(23);

其中,是每个对话中的句子。