欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022106568573
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 电通信技术
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于联盟博弈的簇联邦学习方法,其特征在于,包括以下步骤:步骤一、在物联网边缘环境下搭建簇联邦学习系统;

步骤二、基于用户本地梯度的余弦相似度以及每个簇内成功参与训练的设备个数定义每个簇的效用;基于联盟博弈的方法对用户设备进行分簇,同时优化带宽分配;

步骤三、基于分簇结果执行簇联邦学习训练;

所述的簇联邦学习系统包含多个用户设备和一个中心服务器,其中用户设备数目为K,用户设备集合定义为N,用户设备k∈N的本地数据集为Dk,训练样本数目为Dk;设备分簇之后的簇结构为Π={V1,V2,...,V|Π|},其中S={1,2,...,|Π|}为簇索引;簇s∈S中的设备集合表示为Vs,其中 s≠s′;如果设备k∈Vs则有ak,s=1,否则ak,s=0;簇模型集合表示为W={w1,w2,...,w|Π|},设备k在簇模型ws的训练损失为Fk(ws),则簇联邦学习的训练目标为

2.根据权利要求1所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,每一个训练周期设备消耗的时间包括本地计算时延和梯度上传时延,其中:设备k本地训练时延 可以用负指数分布表示为

其中ψ是预留本地训练的时间,χ和 是与时延分布相关的参数;

设备k的模上传时延为

其中,M是上传梯度的大小, 是上传速率,其中bk是带宽,pk是传输功率,hk是信道增益,N0是背景噪声;每个簇的总带宽为B。

3.根据权利要求2所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,只有簇内设备数目大于1时候簇内的设备才需要上传本地模型到中心服务器,否则这些设备只需要进行本地训练。

4.根据权利要求1所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,簇s的效用主要受簇内设备的余弦相似度以及簇内成功参与训练的设备个数影响,该效用可以表示为其中, ρ是权重系数,

表示设备k本地模型在训练周期r被中心服务器成功接收,否则

5.根据权利要求1所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,给定簇结构Π下,为最大化每个簇的效用,设备k∈Vs的带宽为max

其中W(·)是朗伯W函数,τ 是每个周期的时延预算, 满足

6.根据权利要求1所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,在训练周期r内,设备k∈Vs基于对应的簇模型计算本地梯度 并将其发送给中心服务器;其中簇s初始化的簇模型可以表示为其中η是学习率;

中心服务器根据分簇的结果已经接收到的本地模型计算各个簇的簇模型每个周期的结束阶段,中心服务器将更新后的簇模型广播给对应簇内的设备,用于下一个周期的训练。

7.根据权利要求1所述的一种基于联盟博弈的簇联邦学习方法,其特征在于,若每个设备不与其他设备组成簇时可以单独看成是一个簇,并且该簇的效用设定为1,为最大化每个簇的平均效用,则采用下述基于联盟博弈的分布式分簇方法进行分簇:在一个迭代周期内,每个设备k∈Vs离开当前所在的簇s并选择另外一个簇s'∈S,s≠s',所选择的簇s'在设备k加入后的效用为Us'(Vs',k),并且满足Us'(Vs',k)>Us(Vs);

如果设备所加入的簇可以获得比设备加入前更大的效用,例如Us'(Vs',k)>Us'(Vs'),则簇s'允许设备k加入;

如果系统中没有设备愿意离开当前簇并加入其他簇,则表示簇结构稳定;

上述步骤需重复多次直到没有用户设备能够离开当前所在的簇;并且计算簇的效用的同时需要优化带宽资源。