1.一种基于域间知识迁移与交叉注意力的多领域推荐方法,其特征在于,所述方法包括如下步骤:步骤1、获取不同领域的用户-项目交互数据,为每个领域构建独立的用户-项目交互图,利用GCN对用户-项目交互图进行传播,并在传播过程中,通过邻域聚合学习领域内特征,以得到各自领域的整体嵌入;
步骤2、基于各自领域的整体嵌入,通过随机漫步策略构建高阶相似性矩阵,识别多领域内的相似行为用户,并采用对比学习机制对多领域内的相似行为用户进行跨域行为特征对齐,得到各自领域对齐后的整体嵌入;
步骤3、为每个领域设计交叉注意力机制,以目标域为主,非目标域为辅,将对各自领域对齐后的整体嵌入采用跨领域交互的方式进行注意力计算,以使每个域均能从非目标域获取互补信息,以得到各领域的特定表示;
步骤4、将各自领域的整体嵌入融合为全局通用领域嵌入,再将全局通用领域嵌入调整为针对特定领域的自适应表示,将特定领域的自适应表示与各领域的特定表示拼接,为各领域做预测,以得到各领域的用户-项目预测交互评分;
在所述步骤1中,在传播过程中,通过邻域聚合学习领域内特征,以得到各自领域的整体嵌入具体包括如下步骤:采用Xavier方法对每个领域用户-项目交互图进行独立的随机初始化得到用户嵌入,对应的过程存在如下关系式:;
其中,表示均匀分布,和分别表示对应输入与输出的节点数,表示用户的初始嵌入;
采用Xavier方法对每个领域用户-项目交互图进行独立的随机初始化得到项目嵌入;
将用户嵌入以及项目嵌入映射到低维向量空间中,在低维向量空间中,基于GCN的邻域聚合策略对每个领域的用户、项目嵌入进行多层迭代更新,以得到各领域中经特征学习后用户和项目嵌入;其中,对每个领域的用户、项目嵌入进行多层迭代更新过程中,每次迭代更新的过程存在如下关系式:;
其中,表示平衡自身信息与邻居信息的超参数,;和分别表示用户和项目的邻居节点集,表示用于在邻居聚合过程中调整嵌入大小的归一化项,分别表示当前领域第层的用户和项目的嵌入;
将经特征学习后用户嵌入和经特征学习后项目嵌入进行整合,得到该领域的整体嵌入,对应的过程存在如下关系式:;
其中,表示领域的整体嵌入,表示向量的拼接,分别表示领域中经特征学习后用户和项目的嵌入,分别表示领域中经特征学习后用户集和项目集的嵌入;
在所述步骤2中,基于各自领域的整体嵌入,通过随机漫步策略构建高阶相似性矩阵,识别多领域内的相似行为用户具体包括如下步骤:采用欧式距离来衡量任意两个用户嵌入向量之间的差异,并利用负指数函数将距离转化为相似性得分,将所有用户两两间的相似性得分按照用户索引排列成矩阵,即得到用户相似性矩阵,对应的过程存在如下关系式:;
其中,表示用户相似性矩阵,表示用户与用户的相似性得分,表示的一般元素,分别表示用户与用户的嵌入向量,,表示用来调节领域内用户相似性分布平滑度的温度参数,;表示L2范数;
对相似性矩阵实施行归一化,得到转移概率,并按照用户索引排列构造转移概率矩阵,对应的过程存在如下关系式:;
其中,表示转移概率矩阵,表示的第行第列元素,表示求和指标变量,表示的一般元素;
设定漫步步数为,通过连续乘积计算步后的传递概率矩阵,对应的过程存在如下关系式:;
其中,表示步后的传递概率矩阵;
根据计算得到的步后的传递概率矩阵,采用自环机制构造高阶相似性矩阵,对应的过程存在如下关系式:;
其中,表示高阶相似性矩阵,表示调控自环信息与高阶邻居信息融合比例的权重衰减因子,,表示单位矩阵;
根据不同领域的数据分布特性动态的设定高阶相似性阈值,将任意两用户与用户的高阶相似性与高阶相似性阈值进行比较,对应的过程存在如下关系式:;
其中,表示高阶相似性阈值,表示户与用户的高阶相似性;
根据比较结果,将所有领域中满足相似性判定的用户划分为相似行为用户,未满足条件的用户则归为非相似行为用户,得到相似行为用户嵌入和非相似行为用户嵌入,对应的过程存在如下关系式:;
其中,表示用户集,表示相似行为用户集,表示非相似行为用户集,表示相似行为用户嵌入,表示非相似行为用户嵌入;
在所述步骤4中,将各自领域的整体嵌入融合为全局通用领域嵌入,对应的过程存在如下关系式:;
其中,表示全局通用领域嵌入;
在所述步骤4中,再将全局通用领域嵌入调整为针对特定领域的自适应表示,对应的过程存在如下关系式:;
其中,表示特定领域的自适应表示,表示由多层全连接网络及非线性激活函数构成的适应层,表示针对每个领域单独学习的参数集。
2.根据权利要求1所述的基于域间知识迁移与交叉注意力的多领域推荐方法,其特征在于,在所述步骤2中,采用对比学习机制对多领域内的相似行为用户进行跨域行为特征对齐,得到各自领域对齐后的整体嵌入具体包括如下步骤:定义正样本集为各领域所有相似行为用户嵌入的并集,负样本集为各领域所有非相似行为用户嵌入的并集,对应的过程存在如下关系式:;
其中,表示正样本集,表示负样本集,表示领域集;
根据正样本集以及负样本集,构建对比学习损失,以通过嵌入对比学习,拉近展现相似行为模式用户嵌入的距离,同时使未展现相似行为模式的用户嵌入在空间中彼此远离,得到各自领域对齐后的整体嵌入;其中,对比学习损失存在如下关系式:;
其中,表示正样本集中的任意两个不同的嵌入向量,;表示负样本集中的任一嵌入向量,表示点积操作,表示控制对比学习中正负样本区分程度的温度参数。
3.根据权利要求2所述的基于域间知识迁移与交叉注意力的多领域推荐方法,其特征在于,在所述步骤3中,为每个领域设计交叉注意力机制,以目标域为主,非目标域为辅,将对各自领域对齐后的整体嵌入采用跨领域交互的方式进行注意力计算,以使每个域均能从非目标域获取互补信息,以得到各领域的特定表示具体包括如下步骤:将目标域的对齐后的整体嵌入采用线性变换生成值向量,将非目标域通过线性变换生成各自对应的查询向量和键向量,对应的过程存在如下关系式:;
其中,和分别表示目标域和非目标域的对齐后的整体嵌入,、和分别表示与维度一致的不同的可训练参数矩阵,表示非目标域的查询向量,表示非目标域的键向量,表示目标域的值向量;
根据查询向量和键向量,计算每个非目标域的注意力得分,对应的过程存在如下关系式:;
其中,表示每个非目标域的注意力得分,表示调节各领域对目标域影响权重的特定偏置项,表示平衡点积数值的缩放因子;
将所有非目标域的得分累加,得到多域注意力得分,采用Softmax函数将其归一化,得到注意力权重,对应的过程存在如下关系式:;
其中,表示注意力权重,Softmax表示归一化指数函数,表示多域注意力得分;
利用注意力权重对目标域的值向量进行加权,从而融合各领域的跨域信息,生成更新后的特定表示,对应的过程存在如下关系式:;
其中,表示更新后的特定表示。
4.根据权利要求3所述的基于域间知识迁移与交叉注意力的多领域推荐方法,其特征在于,在所述步骤3中,将特定领域的自适应表示与各领域的特定表示拼接,对应的过程存在如下关系式:;
其中,表示每个领域的最终表示。
5.根据权利要求4所述的基于域间知识迁移与交叉注意力的多领域推荐方法,其特征在于,上述步骤1至步骤4基于多领域推荐模型实现,多领域推荐模型的训练方法包括如下训练步骤:给定真实领域标签,根据各领域的的最终表示与真实领域标签构建域判别损失,对应的过程存在如下关系式:;
其中,表示指示函数,表示真实领域标签,表示域判别损失,当等于真实领域标签时,指示函数的值为1,否则为0;表示将经全连接层映射后的输出,表示特定领域,表示特定领域的最终表示;
将对比学习损失和判别损失加权联合构建总损失函数,对应的过程存在如下关系式:;
其中,表示总损失函数,,分别表示控制嵌入对比学习和域判别损失权重的超参数,表示用于在领域数据规模不平衡情况下防止模型过拟合的正则化系数,表示模型的可训练参数集,表示正则化;
通过最小化总损失函数来优化领域推荐模型性能,得到最终的预测得分概率,对应的过程存在如下关系式:;
;
其中,表示通过最小化总损失函数得到的最优参数集,表示最终的预测得分概率,表示预测得分概率的函数。
6.一种基于域间知识迁移与交叉注意力的多领域推荐系统,其特征在于,所述系统应用如权利要求1至5任意一项所述的基于域间知识迁移与交叉注意力的多领域推荐方法,所述系统包括:域间知识迁移模块,用于:
获取不同领域的用户-项目交互数据,为每个领域构建独立的用户-项目交互图,利用GCN对用户-项目交互图进行传播,并在传播过程中,通过邻域聚合学习领域内特征,以得到各自领域的整体嵌入;
基于各自领域的整体嵌入,通过随机漫步策略构建高阶相似性矩阵,识别多领域内的相似行为用户,并采用对比学习机制对多领域内的相似行为用户进行跨域行为特征对齐,得到各自领域对齐后的整体嵌入;
交叉注意力模块,用于:
为每个领域设计交叉注意力机制,以目标域为主,非目标域为辅,将对各自领域对齐后的整体嵌入采用跨领域交互的方式进行注意力计算,以使每个域均能从非目标域获取互补信息,以得到各领域的特定表示;
全局特征融合模块,用于:
将各自领域的整体嵌入融合为全局通用领域嵌入,再将全局通用领域嵌入调整为针对特定领域的自适应表示,将特定领域的自适应表示与各领域的特定表示拼接,为各领域做预测,以得到各领域的用户-项目预测交互评分。