1.一种联邦学习框架下的数据隐私保护方法,其特征在于,所述方法包括:训练一梯度优化方向分类模型,该梯度优化方向分类模型以客户端本地模型的更新梯度为数据的输入,输出对应预设分类的优化目标特征;服务器将聚合的全局模型以及预训练的梯度优化方向分类模型发送至客户端;
每个客户端在每轮模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器;
经历至少总通信轮数的60%时,基于前序每轮更新的梯度特征输入至梯度优化方向分类模型,输出客户端优化目标特征;利用同态加密将该目标特征与模型参数共同加密,将更新后的模型上传到服务器上解密后获取目标特征,并基于目标特征对每个客户端进行分类获得若干相同特征的客户端群体,基于分类结果针对每个客户端群体进行针对性训练,生成对应的个性化模型;并根据客户端群体分发个性化模型;
每个客户端在之后每轮个性化模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器,直至结束;
所述梯度优化方向分类模型,具体地:
获取不同类型的客户端的梯度特征数据,构建数据集;
构建一以梯度特征数据为数据输入,客户端分类为输出的神经网络模型;
采用构建数据集对构建的神经网络模型进行训练;
根据训练后的神经网络模型,来对客户端优化目标特征进行预测。
2.如权利要求1所述的一种联邦学习框架下的数据隐私保护方法,其特征在于,每个客户端在每轮模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器中,利用同态加密将模型参数加密之前还包括:模型参数通过添加Laplace噪声后加密,公式如下;
式中,表示添加噪声后的模型参数,表示添加噪声前的模型参数,为从拉普拉斯分布中抽取的噪声,表示当前一轮联邦学习的隐私预算;表示敏感度。
3.如权利要求1所述的一种联邦学习框架下的数据隐私保护方法,其特征在于,每个客户端在之后每轮个性化模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器中,利用同态加密将模型参数加密之前还包括:根据总通信轮数的分段,计算每个分段位置模型参数的平均值,并为当前轮次的模型参数通过添加Laplace噪声后加密,公式如下;
式中,表示添加噪声后的模型参数,表示添加噪声前的模型参数,表示前40%轮次的全局平均值,为从拉普拉斯分布中抽取的噪声,表示当前一轮联邦学习的隐私预算;表示敏感度;M为调整值。
4.一种医疗服务系统,其特征在于,基于权利要求1-3任一项所述的方法,所述系统包括:前处理模块,其被配置为,训练一基于医疗数据的梯度优化方向分类模型,该梯度优化方向分类模型以客户端本地模型的更新梯度为数据的输入,输出对应预设分类的优化目标特征;服务器将聚合的基于医疗数据的全局模型以及预训练的基于医疗数据的梯度优化方向分类模型发送至客户端;所述梯度优化方向分类模型,具体地:获取不同类型的客户端的梯度特征数据,构建数据集;
构建一以梯度特征数据为数据输入,客户端分类为输出的神经网络模型;
采用构建数据集对构建的神经网络模型进行训练;
根据训练后的神经网络模型,来对客户端优化目标特征进行预测;
第一阶段训练模块,其被配置为,每个客户端在每轮模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器;
第二阶段训练模块,其被配置为,经历至少总通信轮数的60%时,基于前序每轮更新的梯度特征输入至梯度优化方向分类模型,输出客户端优化目标特征;利用同态加密将该目标特征与模型参数共同加密,将更新后的模型上传到服务器上解密后获取目标特征,并基于目标特征对每个客户端进行分类获得若干相同特征的客户端群体,基于分类结果针对每个客户端群体进行针对性训练,生成对应的个性化模型;并根据客户端群体分发个性化模型;
第三阶段训练模块,每个客户端在之后每轮个性化模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器,直至结束。
5.如权利要求4所述的一种医疗服务系统,其特征在于,
每个客户端在每轮模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器中,利用同态加密将模型参数加密之前还包括:模型参数通过添加Laplace噪声后加密,公式如下;
式中,表示添加噪声后的模型参数,表示添加噪声前的模型参数,为从拉普拉斯分布中抽取的噪声,表示当前一轮联邦学习的隐私预算;表示敏感度。
6.如权利要求4所述的一种医疗服务系统,其特征在于,
每个客户端在之后每轮个性化模型训练完成后,利用同态加密将模型参数加密,将更新后的模型上传到服务器中,利用同态加密将模型参数加密之前还包括:计算前40%轮次的模型参数的平均值,并为当前轮次的模型参数通过添加Laplace噪声后加密,公式如下;
式中,表示添加噪声后的模型参数,表示添加噪声前的模型参数,表示前40%轮次的全局平均值,为从拉普拉斯分布中抽取的噪声,表示当前一轮联邦学习的隐私预算;表示敏感度;M为调整值。
7.一种联邦学习框架下的数据隐私保护设备,其特征在于,包括:至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至3中任一项所述的方法。
8.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至3中任一项所述的方法。