欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022111821162
申请人: 河南大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于数据集蒸馏的联邦学习个性化方法,其特征在于,包括:步骤1:在客户端,利用预设的数据集蒸馏模型对本地数据进行处理生成蒸馏数据 并将所述蒸馏数据加密后上传至服务器;

步骤2:服务器接收到各客户端上传的加密蒸馏数据 后,将所有的加密蒸馏数据记作利用 进行全局模型训练,得到全局模型的初始参数G0,将 和G0下发至各客户端;N表示客户端的数量;

步骤3:在客户端,根据本地数据的数据分布特征利用 进行数据增强得到新的本地数据,并利用G0对本地模型进行参数初始化;

步骤4:在客户端,利用新的本地数据对当前本地模型的参数进行更新,并将更新后的本地模型的参数上传至服务器;

步骤5:服务器接收到各客户端上传的本地模型的参数后,对所有本地模型的参数进行聚合以更新全局模型的参数,并将更新后的全局模型的参数下发至各客户端;

步骤6:重复步骤4至步骤5,直至更新后的全局模型满足要求。

2.根据权利要求1所述的一种基于数据集蒸馏的联邦学习个性化方法,其特征在于,步骤1具体包括:步骤1.1:将公式(1)设置为优化目标函数,利用公共数据集训练得到数据集蒸馏模型:其中,为生成的合成数据集,为学习率,θ0为初始化参数, 表示拉普拉斯算子,表示元学习函数;

步骤1.2:将数据集蒸馏模型下发至各客户端,客户端利用数据集蒸馏模型对本地数据进行处理生成蒸馏数据 并采用差分隐私算法对所述蒸馏数据 记进行加密,得到加密蒸馏数据

3.根据权利要求1所述的一种基于数据集蒸馏的联邦学习个性化方法,其特征在于,步骤3具体包括:步骤3.1:使用狄利克雷分布对本地数据分布进行统计,得到本地数据的数据分布参数α;

步骤3.2:利用 对本地数据进行补充使得本地数据的数据分布参数α不断逼近0.5,将α最接近0.5时的本地数据作为新的本地数据。

4.根据权利要求1所述的一种基于数据集蒸馏的联邦学习个性化方法,其特征在于,步骤4具体包括:对于客户端k,对第t轮次的梯度 进行随机梯度下降,得到更新后的梯度将 上传至服务器。

5.根据权利要求4所述的一种基于数据集蒸馏的联邦学习个性化方法,其特征在于,步骤5具体包括:步骤5.1:按照公式(2)对所有本地模型的梯度进行聚合:其中,mk表示第k个客户端所拥有的样本数量,m表示样本总数量;

步骤5.2:按照公式(3)进行梯度下降:

w=wt‑ηΔFt(wt)  (3)

其中,w表示更新后的梯度,η为本地模型的学习率,ΔFt表示目标函数在第t次聚合时的变化量;

步骤5.3:服务器在计算出最新梯度w后进行反向传播更新全局模型,之后下发模型参数θ至各客户端。