欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022101088917
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:包含以下步骤:

步骤1,中心服务器初始化神经网络模型的训练配置并启动训练计划,并发送给参与方P1,P2,…,PN;参与方将收到的训练配置中的全局参数w0作为本地神经网络协同过滤模型的第0轮模型参数;

步骤2,中心服务器随机选择C个参与方作为训练参与方参与到第t轮训练中,并向它们发送当前的全局模型;

步骤3,第t轮训练的各参与方使用本地训练数据集Dc以及本地步骤local epochs,来更新已有的本地神经网络协同过滤模型的第t-1轮全局模型参数得到本地神经网络协同过滤模型的第t轮各参与方的模型参数c∈C,C为训练参与方的个数,t为训练轮数;

步骤4,第t轮训练中的各参与方将其在本地第t轮训练更新后的模型参数上传给服务器,并进行加入高斯噪声的差分隐私处理;

步骤5,服务器基于FedAvg算法对步骤4各参与方上传的模型参数进行聚合,得到新的全局参数wt;

步骤5中,FedAvg算法具体公式如下:

其中,c∈C,C是该轮训练中选定的参与方总数,nc是参与方的本地训练实例数,是该轮训练的总实例数,是参与方更新后的模型参数;

步骤6,服务器将依据生成的新的全局参数wt,判断所有参与方的本地神经网络协同过滤模型是否已经收敛或达到预定的训练次数:如果是,则转至步骤7;否则,令训练轮数t加1,并返回步骤2;

步骤7,各参与方使用本地训练好的神经网络协同过滤模型以及命中率@10评估协议,对本地测试数据的进行预测,生成一个前10个推荐项列表,从而对训练后的模型在推荐系统中的应用情况进行评估,并输出推荐结果。

2.根据权利要求1所述的一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:步骤1中服务器发送的训练配置具体内容包括:对任务的描述,通知参与方模型的超参数,超参数包含与训练过程有关的相关信息;当前模型的全局参数w0;常数C,表示在聚合前本地参与方的数量。

3.根据权利要求1所述的一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:步骤3中,首先将数据集转换为隐式反馈数据集,并且采用神经协同过滤NCF框架来进行训练,为方便表示,定义数据集中,A和B分别表示用户u和项目i的数量,K表示潜在空间latent space的维度;该框架包括数据输入层、嵌入层、神经协同过滤层、输出层;通过对输入数据使用one-hot编码转化为二值化稀疏向量作为输入特征,然后经过嵌入层将输入层的稀疏表示映射为一个稠密向量,然后送入神经协同过滤层,将潜在向量映射为预测分数;最终输出层是预测分数训练通过最小化交叉熵进行;其中,预测值公式为:其中P∈RA×KQ∈RB×K分别表示用户和项目的潜在因素矩阵;特征向量和分别用来描述用户u和项目i,Θf表示交互函数f的模型参数,函数f被定义为多层神经网络。

4.根据权利要求1所述的一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:步骤4中,第t轮训练中的各参与方将其在本地第t轮训练更新后的模型参数上传给服务器前,对其进行差分隐私处理,加入高斯噪声,保护模型的隐私安全,高斯机制满足(∈,δ)-差分隐私;根据高斯机制,对于返回数字的函数f(x),以下F(x)定义满足(∈,δ)-差分隐私:F(x)=f(x)+N(σ2)

其中s是f的敏感度,而N(σ2)表示从中心为0且方差σ2的高斯分布抽样。

5.根据权利要求1所述的一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:步骤6中,参与方的本地神经网络协同模型的收敛是指本地神经网络协同过滤模型的损失函数值不再变化或变化量小于设定的变化阈值。

6.根据权利要求1所述的一种基于联邦学习的神经网络协同过滤推荐方法,其特征在于:步骤7中命中率@10计算公式为:其中,分母GT是所有的测试集合,分子表示每个参与方前十个推荐项列表中属于测试集合的个数的总和;HR@10值越高则证明该推荐系统效果越好。