1.一种跨域异质场景下的联邦学习隐私性评估方法,其特征在于,包括:
确定联邦学习在跨域异质场景下的任务和数据集,并根据算法确定潜在攻击风险;具体包括:在跨域异质场景下客户端在设定数据集和全局梯度的基础上进行局部数据预训练并上传至客户端聚合,通过不断迭代以实现本地模型的训练;其中,所述设定数据集包括手写体数字数据库MNIST、用于识别普适物体的小型彩色数据库CIFAR10、人脸数据库LFW;
将每个样本的类别标签归纳在一个矩阵中以实现数据集的划分,并对分划好的每一个客户端数据中,使用第一设定量的数据作为训练样本,第二设定量的数据作为测试样本;其中,N为参与联邦学习的客户端个数,K表示所有样本标签得的类别个数,矩阵中的行向量表示每个类别划分到不同的客户端上的比例,行向量采样来自Dirichlet分布;
Dirichlet分布的概率密度函数为:
α=(α1,α2,...,αK),αi>0
其中,x为符合要求的随机向量,而α为分布参数,其越大分布越接近均匀分布,越小则分布越聚集;
采用FedSGD算法,客户端和中央服务器进行迭代通信优化每个对应数据集下任务k的全局任务模型在第t次迭代过程中,客户端i从中央服务器下载得到当前全局模型参数并计算出参数梯度其中B为批量大小,为客户端在第k个数据集中经过批量采样和注意力机制筛选过的数据量,将计算得到的参数梯度发送到中央服务器;
确定恶意窃听者通过获取目标客户端发送的梯度参数和联邦学习模型对客户端的原始数据进行估计和还原,其攻击行为包括成员推理攻击、属性推理攻击、数据重构攻击;
根据任务对数据集进行关联度筛选;具体包括:
以批量大小B对每个客户端的数据集进行采样,使得第i个客户端进行训练的数据为引入查询向量q,通过评分函数计算每个输入向量和查询向量之间的相关性,在给定一个和任务相关的查询向量q,在给定q和XB下,选择第i个输入向量的概率αi:其中,αi为输入的第i个数据的受注意程度,对信息进行整合汇总为XB=[x1α1,x2α1...,xBαB]=[x1,x2,...,xB];
将客户端发送给联邦学习中央服务器的数据采用设定的隐私加强技术进行加密处理;
根据具有代表性的攻击模型计算客户端的隐私性指标;具体包括:
通过计算每个客户端的模型的准确率,即分类正确的样本占比作为模型准确率指标;其中,分母为客户端k测试样本数据量,分子表示测试数据xi,test在经过模型分类后和原始标签是否一致,若一致则由count函数进行计数;
根据现有的DLG模型,随机生成一份和真实数据同样大小的虚拟数据x0和标签y0,将虚拟样本和标签输入到现有的客户端模型中得到虚拟的模型梯度G',通过不断迭代计算缩小真假梯度之间的距离,不断更新客户端的原始数据直至完全逼近,假设估计出的原始数据为计算不同任务对应数据集的跨域权重;
计算攻击得到的原始数据与原始样本的相似度,以确定客户端的隐私性指标;
根据设置的阈值判定客户端参与联邦学习时所上传数据的隐私泄露风险。
2.根据权利要求1的跨域异质场景下的联邦学习隐私性评估方法,其特征在于,所述计算不同任务对应数据集的跨域权重的步骤,包括:在客户端模型的不同数据集下的DLG攻击中,当估计梯度在新的迭代轮次中的变化值小于δ时判定DLG达到收敛:|Gt'+1-Gt'||<δ;其中,t为在预设数据集中DLG攻击成功的迭代次数也是窃听者在攻击此类数据集时所需要付出的计算成本;
将每个数据集下的迭代次数的比例值作为跨域权重,表示客户端因自身数据集的不同所导致的攻击难易。
3.根据权利要求2的跨域异质场景下的联邦学习隐私性评估方法,其特征在于,所述计算攻击得到的原始数据与原始样本的相似度,以确定客户端的隐私性指标的步骤,包括:假设在第i个数据集中,推测出的估计数据为样本标签为则采用均方根误差RMSE来衡量推测具体数据集下的数据和原始数据的相似度,其公式为:对于样本标签的估计值采用计数函数来判定他们的一致性,其公式为:当预测标签和原始标签一致时,coun函数为1,否则为0;
根据RMSE,LC和P的综合性指标判定第k数据集对应任务下的联邦学习数据总的泄露性,其公式为:
4.根据权利要求3的跨域异质场景下的联邦学习隐私性评估方法,其特征在于,所述根据设置的阈值判定客户端参与联邦学习时所上传数据的隐私泄露风险的步骤,包括:对不同客户端设备下的加密模型进行准确性测试,当测试集的分类准确率低于阈值时,模型均不允进一步确定其隐私性;
设定不同数据集下的阈值若计算出的均方根误差Mk小于阈值则发出危险预警,若计算出的均方根误差Mk大于等于阈值则提示安全。
5.一种跨域异质场景下的联邦学习隐私性评估装置,其特征在于,包括:
确定模块,用于确定联邦学习在跨域异质场景下的任务和数据集,并根据算法确定潜在攻击风险;具体包括:预训练单元,用于在跨域异质场景下客户端在设定数据集和全局梯度的基础上进行局部数据预训练并上传至客户端聚合,通过不断迭代以实现本地模型的训练;其中,所述设定数据集包括手写体数字数据库MNIST、用于识别普适物体的小型彩色数据库CIFAR10、人脸数据库LFW;
数据划分单元,用于将每个样本的类别标签归纳在一个矩阵中以实现数据集的划分,并对分划好的每一个客户端数据中,使用第一设定量的数据作为训练样本,第二设定量的数据作为测试样本;其中,N为参与联邦学习的客户端个数,K表示所有样本标签得的类别个数,矩阵中的行向量表示每个类别划分到不同的客户端上的比例,行向量采样来自Dirichlet分布;Dirichlet分布的概率密度函数为:α=(α1,α2,...,αK),αi>0
其中,x为符合要求的随机向量,而α为分布参数,其越大分布越接近均匀分布,越小则分布越聚集;
第一计算单元,用于采用FedSGD算法,客户端和中央服务器进行迭代通信优化每个对应数据集下任务k的全局任务模型在第t次迭代过程中,客户端i从中央服务器下载得到当前全局模型参数并计算出参数梯度其中B为批量大小,为客户端在第k个数据集中经过批量采样和注意力机制筛选过的数据量,将计算得到的参数梯度发送到中央服务器;
确定单元,用于确定恶意窃听者通过获取目标客户端发送的梯度参数和联邦学习模型对客户端的原始数据进行估计和还原,其攻击行为包括成员推理攻击、属性推理攻击、数据重构攻击;
筛选模块,用于根据任务对数据集进行关联度筛选;具体包括:
采样单元,用于以批量大小B对每个客户端的数据集进行采样,使得第i个客户端进行训练的数据为引入单元,用于引入查询向量q,通过评分函数计算每个输入向量和查询向量之间的相关性,在给定一个和任务相关的查询向量q,在给定q和XB下,选择第i个输入向量的概率αi:其中,αi为输入的第i个数据的受注意程度,对信息进行整合汇总为XB=[x1α1,x2α1...,xBαB]=[x1,x2,...,xB];
加密模块,用于将客户端发送给联邦学习中央服务器的数据采用设定的隐私加强技术进行加密处理;
计算模块,用于根据具有代表性的攻击模型计算客户端的隐私性指标;具体包括:第二计算单元,用于通过计算每个客户端的模型的准确率,即分类正确的样本占比作为模型准确率指标;其中,分母为客户端k测试样本数据量,分子表示测试数据xi,test在经过模型分类后和原始标签是否一致,若一致则由count函数进行计数;
生成单元,用于根据现有的DLG模型,随机生成一份和真实数据同样大小的虚拟数据x0和标签y0,将虚拟样本和标签输入到现有的客户端模型中得到虚拟的模型梯度G',通过不断迭代计算缩小真假梯度之间的距离,不断更新客户端的原始数据直至完全逼近,假设估计出的原始数据为第三计算单元,用于计算不同任务对应数据集的跨域权重;
第四计算单元,用于计算攻击得到的原始数据与原始样本的相似度,以确定客户端的隐私性指标;
判定模块,用于根据设置的阈值判定客户端参与联邦学习时所上传数据的隐私泄露风险。
6.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至4中任一项所述方法的步骤。
7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4中任一项所述方法的步骤。