1.一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,所述方法包括:步骤1:对电力信号数据进行预处理;
步骤2:根据监测网络带宽、延迟以及数据隐私需求确定联邦学习训练模式,所述联邦学习训练模式包括集中式联邦学习和去中心化联邦学习;如果确定为集中式联邦学习,执行步骤3,否则执行步骤4;
步骤3:集中式联邦学习训练,在客户端和中心服务器部署CrossTransNILM模型,将所有参与训练的客户端模型更新集中到中心服务器进行聚合;CrossTransNILM模型包括多层Transformer编码器和负荷分支模块,通过总线功率预测多个负荷的功率消耗;
步骤4:去中心化联邦学习训练,各客户端独立训练CrossTransNILM模型并通过点对点通信交换模型参数,通过图注意力网络来优化通信拓扑,并通过投票机制判断全局模型的收敛性;
步骤5:非侵入式负荷监测与实时反馈,将训练完成的CrossTransNILM模型部署至监测终端,实时采集总线路的功率信号,通过预处理后输入模型进行端到端监测;通过负荷分支模块输出各用电设备的功率分解结果,将负荷功率映射为用电设备的启停状态;监测终端根据联邦学习模式选择机制,定期更新模型参数。
2.根据权利要求1所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,步骤3中,CrossTransNILM模型具体包括:一维卷积层、位置编码、共享Transformer编码器以及多个负荷分支,每个负荷分支处理一种负荷类型;每个负荷分支包含一个分支Transformer编码器层、一个交叉Transformer层和两层全连接层;
模型的输入总线序列为,其中是序列长度,且为奇数,用于定位中心点;模型的学习目标是预测序列中点时刻的各负荷的功率,学习目标表示为:,
其中,为假设空间,表示采样点总数,为均方误差损失函数,为负荷类型的总数;
一维卷积层用于提取序列的局部特征,卷积运算公式表示为:,
其中,代表一维卷积操作,是输入的总线功率序列,是卷积后的输出,表示提取的局部特征;
位置编码用于每个位置在序列中的位置编码由正余弦函数生成,计算公式为:其中,是模型维度,表示序列位置索引;
嵌入层用于将卷积层输出与位置编码相加,得到序列的嵌入表示:,
其中,是经过卷积层后的输出,是正余弦编码的位置信息;
共享Transformer编码器用于处理并分析输入的总线功率序列,通过其多层结构和多头自注意力机制,捕捉序列数据中的长距离依赖关系。
3.根据权利要求2所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,共享Transformer编码器由多个编码层组成,每层都包括一个多头自注意力机制和一个前馈神经网络。
4.根据权利要求3所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,步骤3包括:步骤3.1:中心服务器首先初始化全局模型参数,然后将其下发到所有参与训练的客户端,数学表示为:,其中,表示客户端的总数;
步骤3.2:客户端使用本地数据进行训练,更新模型参数,更新规则为:,
其中,是客户端在第轮本地训练的模型参数,是模型训练的学习率,是均方误差损失函数对参数的梯度;
定义每个客户端在第轮本地训练的模型为,其中,表示客户端在第轮训练中第层的参数,为CrossTransNILM模型的总层数,此时,第层参数均值变化量,称为层敏感度,定义为:;
计算每一层的敏感度并排序,选择敏感度最大的前层,其中是传输比例系数,取值范围;
步骤3.3:服务器端收集所有客户端上传的模型参数,其中为全局训练的轮数索引;对每个客户端,计算其与其他所有客户端更新之间的欧氏距离和:,
其中,表示除客户端之外的其他参与训练的客户端的索引,表示第轮全局训练中客户端的模型参数;得分越小,与其他客户端的更新越接近;然后,对进行排序,剔除最高的层更新,其中是聚合比例系数,取值范围是;
对剩余的正常更新进行聚合,对于CrossTransNILM模型的每个层,初始化权重累积器和计数器,对于每个客户端上传的权重,更新累积器和计数器,计算层平均更新:;
将平均更新加到全局模型的相应层上:
;
步骤3.4:中心服务器将更新后的全局模型参数分发给所有客户端,以继续下一轮的训练:,。
5.根据权利要求1所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,步骤4包括:步骤4.1:利用图注意力网络学习客户端之间的相似度,并根据注意力权重来筛选最相关的连边,得到通信拓扑结构;
步骤4.2:中心服务器生成初始模型参数,该模型参数包含所有需要训练的网络层和参数,用于NILM任务;然后,中心服务器将初始化后的全局模型参数分发给所有参与训练的客户端,使每个客户端在训练开始前拥有相同的起点,数学表示如下:,
其中,表示客户端在初始化时的模型参数,为客户端的总数;
步骤4.3:进行本地模型训练,每个客户端根据构建的通信拓扑将模型参数与邻居客户端共享;每个客户端在接收到其邻居客户端的更新参数后,通过加权平均来聚合各客户端模型参数;
步骤4.4:
评估收敛性,将判断结果记录为一个二值信号:
,
其中,表示客户端认为当前模型已收敛,表示模型尚未收敛;表示客户端在本地验证集上的损失值;为预设的阈值,为目标准确度,为模型在本地验证集上的准确度;
步骤4.5:每轮训练完成后,所有客户端将各自的收敛信号发送到中心服务器;中心服务器根据统计的投票结果来判断是否停止训练,总投票数;设置投票阈值为一个静态的固定值,当时,系统停止训练,否则进入下一轮训练。
6.根据权利要求5所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,步骤4.1包括:步骤4.1.1:每个客户端首先根据本地数据,提取关键统计特征,所述关键统计特征包括均值、标准差、最小值和最大值,数学表示为:,
其中,所有客户端的特征表示为,;
令表示通信拓扑图,客户端集合,边集合表示客户端间的潜在通信连接关系,初始化边集合为一个全连接结构,不包含自环,即初始设为一个完全有向图;
步骤4.1.2:采用三层图注意力网络来构建客户端间的通信连接,对于客户端与其邻居客户端,图注意力网络首先对客户端特征做可学习的线性映射;然后,为每条边计算注意力系数,其形式为:,
其中,是激活函数,为可学习的注意力向量,表示向量拼接,和分别表示客户端和其邻居客户端的特征矩阵;
接着经过softmax归一化,得到最终注意力系数:
;
在前向传播过程中,进一步获得更新后的节点表示及所有边的注意力系数集合;表示为客户端与的连接权重;
调用,其中,为更新后的客户端嵌入矩阵,为注意力系数集合;
步骤4.1.3:设定注意力权重阈值为的中位数,保留的拓扑边:,并且剔除自环;
对于中的每条有向边,仅保留无向形式,得到的无向边集;
对任意客户端,统计其度数,其中,表示与相连的邻居客户端;若出现,表示该客户端在中无任何连接边,则随机为选取一个邻居客户端并将新边并入;
令,最终无向图即为基于GAT学习得到的去中心化通信拓扑。
7.根据权利要求1所述的一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测方法,其特征在于,步骤2具体包括:当网络带宽,延迟,并且数据隐私需求较低时,系统选择集中式联邦学习,否则,切换至去中心化联邦学习;
如果满足集中式联邦学习训练的条件,由中心服务器对所有客户端的模型更新进行统一聚合和优化;
如果触发去中心化联邦学习训练的条件,客户端在分布式环境中独立训练并与邻居客户端交换模型更新。
8.一种基于混合联邦学习和交叉Transformer的非侵入式负荷监测系统,其特征在于,所述系统包括:预处理模块,用于对电力信号数据进行预处理;
联邦学习训练模式选择模块,用于根据监测网络带宽、延迟以及数据隐私需求确定联邦学习训练模式,所述联邦学习训练模式包括集中式联邦学习和去中心化联邦学习;如果确定为集中式联邦学习,执行集中式联邦学习模块,否则执行去中心化联邦学习模块;
集中式联邦学习模块,用于集中式联邦学习训练,在客户端和中心服务器部署CrossTransNILM模型,将所有参与训练的客户端模型更新集中到中心服务器进行聚合;CrossTransNILM模型包括多层Transformer编码器和负荷分支模块,通过总线功率预测多个负荷的功率消耗;
去中心化联邦学习模块,用于去中心化联邦学习训练,各客户端独立训练CrossTransNILM模型并通过点对点通信交换模型参数,通过图注意力网络来优化通信拓扑,并通过投票机制判断全局模型的收敛性;
监测模块,用于非侵入式负荷监测与实时反馈,将训练完成的CrossTransNILM模型部署至监测终端,实时采集总线路的功率信号,通过预处理后输入模型进行端到端监测;通过负荷分支模块输出各用电设备的功率分解结果,将负荷功率映射为用电设备的启停状态;监测终端根据联邦学习模式选择机制,定期更新模型参数。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,其特征在于,当所述处理器运行所述存储器存储的计算机程序时执行权利要求1至7中任一项所述的方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有多条计算机指令,所述多条计算机指令用于使计算机执行权利要求1至7中任一项所述的方法。