欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022112287505
申请人: 南京邮电大学
专利类型:发明专利
专利状态:未下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述方法包括步骤:构建跨域异质场景下的面向联邦学习的非独立同分布数据集;

构建异质测试环境;

选择骨干网络VGGNet;

选择梯度平均作为联邦学习算法;

计算每一轮迭代所需时间;

判断收敛周期;以及

计算整个联邦学习过程中的总训练时间。

2.如权利要求1所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述构建跨域异质场景下的面向联邦学习的非独立同分布数据集包括:以ImageNet数据集分类任务作为联邦学习训练效率评测的第一任务,并采用Dirichlet分布来生成所述联邦学习的分类数据集,所述Dirichlet分布满足如下条件:q~Dir(αp)

其中α=0.5,q表示Dirichlet分布,p表示类别分布;

并且,对于划分好的各个客户端的数据,使用75%的数据作为训练样本,25%的数据作为测试样本。

3.如权利要求1或2之一所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述构建异质测试环境包括:以数据传输速率作为客户端通信能力的度量衡,以客户端在数据集上以所述VGGNet为模型在128个训练样本上的前馈计算时间和反馈计算时间,作为客户端的计算能力。

4.如权利要求3所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述选择骨干网络VGGNet包括:采用交叉熵损失函数作为目标函数 计算方式如下:其中,yk表示第k个样本的标签以及 是其预测标签,K表示样本数。

5.如权利要求4所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述选择梯度平均作为联邦学习算法包括:步骤41,在训练开始之前,确定联邦学习的参与者,所述参与者是从所有客户端中随机选择的N个客户端,然后分发公钥并确定所需训练的模型为VGGNet以及所述VGGNet的初始权重,其中N为正整数;

步骤42,所述N个客户端在本地设备与本地数据上进行前向传播与反向传播,并在获取梯度后,将梯度加密并上传至服务器;

步骤43,所述服务器解密并聚合来自所述N个客户端的梯度,获得全局梯度,将全局梯度加密后广播至所有客户端;

步骤44,各个客户端在接收到所述全局梯度后,解密并加载所述全局梯度以更新本地模型;

步骤45,重复步骤41到44,直至所述VGGNet收敛。

6.如权利要求5所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述计算每一轮迭代所需时间包括:步骤51,计算客户端时间tclient,公式如下:其中N表示客户端数量, 表示第n个客户端下载全局模型所需时间, 表示第n个客户端数据与模型加载所需时间, 表示第n个客户端VGGNet的前馈计算时间,t2c表示第n个客户端VGGNet反向传播计算出梯度并加密并上传至服务器所需时间;

其中,所述VGGNet的第l层的梯度计算时间可隐藏在其第l+1层的加密并上传至服务器所需时间中,其中所述加密并上传至服务器所需时间为加密通信时间,其计算如下:其中L表示所述VGGNet的层数, 表示第n个客户端在第l层的反馈计算时间,为第n个客户端在第l+1层将数据上传至服务器所需时间,为第n个客户端在第l+1层的加密时间。

情况1:所有梯度计算时间≤上一层的加密通信时间,情况2:部分层的梯度计算时间>上一层的加密通信时间,从第1层到第C层隐藏层的时间如情况1所示,从第C层隐藏层到第L层隐藏层则另外计算聚合时间,且其加密通信时间大于上一层的梯度计算时间;

步骤52,计算服务器时间tserver,公式如下:tserver=tgradient_agg+tdecrypt其中tgradient_agg为梯度聚合时间,tdecrypt为梯度解密时间;

步骤53,计算单轮迭代时间titer,公式如下:titer=tserver+tclient其中,tserver表示服务器时间,tclient表示客户端时间。

7.如权利要求6所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述判断收敛周期包括:如果在E次迭代后,连续5轮的模型损失函数值的变化率小于预设阈值,则判定所述模型在E步收敛,其中,E是正整数。

8.如权利要求7所述的跨域异质场景下的面向联邦学习的评测方法,其特征在于,所述计算整个联邦学习过程中的总训练时间包括:确定训练开始之前的对齐时间talignment;

计算整个联邦学习过程中的总训练时间T,其中T满足:其中,titer表示单轮迭代时间,E表示所述模型在E步收敛。

9.一种跨域异质场景下的面向联邦学习的评测装置,其特征在于,所述装置包括存储器,收发机,处理器;

存储器,用于存储计算机程序;收发机,用于在所述处理器的控制下收发数据;处理器,用于读取所述存储器中的计算机程序并执行以下操作:构建跨域异质场景下的面向联邦学习的非独立同分布数据集;

构建异质测试环境;

选择骨干网络VGGNet;

选择梯度平均作为联邦学习算法;

计算每一轮迭代所需时间;

判断收敛周期;以及

计算整个联邦学习过程中的总训练时间。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序用于使计算机执行权利要求1至8中的任一项所述的跨域异质场景下的面向联邦学习的评测方法。