1.一种基于模型参数异步更新的个性化联邦学习方法,其特征在于:包括在服务器端根据各客户端数据大小对模型参数加权聚合,表示为:其中nk为第k个客户端的样本数据大小,n为训练样本的总数,为第k个客户端t+1时刻的模型参数;客户端使用梯度下降法对本地模型全部参数进行更新,公式如下;
损失函数定义为:
其中fk(w)为第k个客户端的损失函数;
还包括计算第l层服务器与客户端的余弦相似性,表示如下:其中,(Wt)l为服务器第l层的模型参数,(Wk)l表示客户端第l层的模型参数,如果P越接近1,则代表服务器端的l层与客户端的l层参数越相似;
在有k个客户端,逐层逐个计算余弦相似性有以下公式:还包括求sl针对K个客户端的均值:
判断:
其中,对比变化值,如果l层针对l-1变化的绝对值远大于l-1针对l-2变化的绝对值;此时输出l,并根据l把t时刻模型Wt划分为基础层WBt和个性层WPt。
2.根据权利要求1所述的基于模型参数异步更新的个性化联邦学习方法,其特征在于:所述服务器全局模型为Wt,客户端本地模型为Wk。
3.根据权利要求2所述的基于模型参数异步更新的个性化联邦学习方法,其特征在于:对于具有L层的网络模型,将服务器的模型参数Wt扩展表示为{(Wt)1,(Wt)2,...,(Wt)L}。
4.根据权利要求3所述的基于模型参数异步更新的个性化联邦学习方法,其特征在于:客户端的模型参数逐层表示为{(Wk)1,(Wk)2,...,(Wk)L}。