1.一种基于联邦学习的业务识别方法,其特征在于,具体包括如下步骤:
步骤1:构建由若干个无线路由器作为边缘端组成的边缘协作式系统,其中每个无线路由器均配备边缘初始数据集和边缘初始神经网络分类器;
步骤2:通过边缘协作式系统中的若干个无线路由器采集网络流量数据集,并将采集到的数据集处理成训练模型需要的数据集格式;
步骤3:根据不同的业务需求,选用不同的分布式联邦学习机制训练得到初始模型,并经过聚合更新得到全局模型;
步骤4:将步骤3训练得到的全局模型放到业务识别分类器模型库中,作为包含在所述业务识别分类器模型库中的不同算法,然后根据所识别的不同的业务类型选取业务识别分类器模型库中不同的算法;
步骤5:通过联邦学习的协同训练手段,合并众多参与训练的路由器识别出的数据流特征,并部署到更多路由器上,使得每个路由器都可以识别出全部的业务类型,增强识别模型的泛化能力。
2.根据权利要求1所述的一种基于联邦学习的业务识别方法,其特征在于,所述将采集到的数据集处理成训练模型需要的数据集格式的具体内容包括:对捕获的数据集进行预处理并进行特征提取,除去与类别属性无关的冗余特征后,将其分为训练集一和验证集一,对训练集一进行特征提取,除去与类别属性无关的冗余特征作为特征集放进建立的样本数据库。
3.根据权利要求2所述的一种基于联邦学习的业务识别方法,其特征在于,步骤3中所述不同的分布式联邦学习机制包括同步交互机制和异步交互机制,所述同步交互机制和异步交互机制具体如下:(1)同步交互机制:在每一轮训练初始模型的开始,每个无线路由器用户都参与训练,训练本地数据得到初始模型,每个边缘端将本地模型同时传输给其他所有无线路由器用户,每个边缘端将接收到的模型参数与其本身的参数加权融合,以实现各个边缘端模型的更新;
所述同步交互联邦学习模型的总体优化目标为:
其中
其中fi(ω)=l(xi,yi;ω)即(xi,yi)在神经网络模型参数ω下的损失函数;假定每一轮训练中有K个边缘端参与训练, 为第k个边缘端参与训练的数据索引集合;nk为边缘端参与训练的样本个数,则优化目标变为:其中
在此同步交互机制中,不同无线路由器的模型权重参数同时参加模型融合加权平均对目标函数进行优化,不断改善系统对异常检测的精度,并将信息反馈给其他边缘节点,根据不同的异常类型,采取针对网络攻击和系统异常的防护策略;
(2)异步交互机制:在每一轮训练初始模型的开始时随机选取m个无线路由器用户参与训练,训练本地数据得到初始模型,每一个被选中的无线路由器将模型传输给其他边缘端,其他边缘端将接收到的模型参数与其本身的参数加权融合,以实现各个无线路由器模型的更新;重复若干次该过程进行多轮迭代,以不断改善系统整体性能;
相较于上述同步交互机制,所述异步交互机制的优化目标不变,但是由于不同无线路由器接收到的模型参数和次数可能不同,因此其中对不同边缘端的模型权重参数加权平均的方式为: 式中wi为此无线路由器的原始权重,wtj为本节点收到的其他参与训练的m个边缘端模型的权重参数。
4.根据权利要求3所述的一种基于联邦学习的业务识别方法,其特征在于,当业务需求为要求整体模型的稳定快速收敛时,选取同步交互机制;当业务需求为要求大量数据的交互代价和系统的整体复杂度,选取异步交互机制。
5.根据权利要求4所述的一种基于联邦学习的业务识别方法,其特征在于,步骤3中选取同步交互机制得到全局模型的具体步骤如下:(3A)初始模型训练阶段:在每一轮训练模型的开始,每个无线路由器都参与训练,训练本地数据得到初始模型;
(3B)全局模型训练阶段:根据步骤(3A)训练得到的初始模型,每个边缘端将所述初始模型同时传输给其他所有无线路由器,每个边缘端将接收到的初始模型参数与其本身的参数加权融合,以实现各个边缘端模型的更新;
(3C)联邦学习聚合更新识别模型,在不泄露隐私数据的情况下,实现全局模型的训练。
6.根据权利要求4所述的一种基于联邦学习的业务识别方法,其特征在于,步骤3中选取异步交互机制得到全局模型的具体步骤如下:(3a)初始模型训练阶段:在每一轮训练模型的开始时随机选取m个无线路由器用户参与训练,训练本地数据得到初始模型;
(3b)全局模型训练阶段:每一个被选中的无线路由器将所述初始模型传输给其他边缘端,其他边缘端将接收到的初始模型参数与其本身的参数加权融合,以实现各个无线路由器模型的更新;
(3c)联邦学习聚合更新识别模型,在不泄露隐私数据的情况下,实现了全局模型的训练。
7.根据权利要求1‑6任一项所述的一种基于联邦学习的业务识别方法,其特征在于,步骤4中所述的不同算法包括深度学习CNN算法模型、XGBoost模型、图神经网络GCN算法模型;
对于图像或其他拥有海量变量的数据,选用深度学习CNN算法模型;对于变量数较少的表格数据,选用训练好的XGBoost模型;对于图结构,或称拓扑结构,如社交网络、化学分子结构、知识图谱的数据,选用图神经网络GCN算法模型。
8.根据权利要求7所述的一种基于联邦学习的业务识别方法,其特征在于,所述深度学习CNN算法模型建立的具体步骤如下:步骤1)根据具体算法模型训练所需的数据集处理
(1a)对通过边缘协作式系统中的若干个无线路由器采集网络流量形成的数据集进行初步处理形成初步处理的训练集二;
(1b)加载上述初步处理的训练集二,对其打上标签,如游戏类、视频类、社交类和WEB浏览类这四种业务类型分别对应标签0、1、2、3;
(1c)提取文本关键词,将出现频率最高的前2000词排序并建立token字典,如TCP协议出现次数最多,就将其排列为1,并使用token字典将“文字”转化为“数字列表”,用1代表TCP协议;
(1d)截长补短,让所有的数字列表长度都是64,长度超过64的截断后面的信息,字节信息长度不足64,则在后面补零到长度达到64,保证每个文本都是同样的长度;
(1e)最后再用Embedding层将“数字列表”转化为“向量列表”,CNN模型训练需要的训练集二就处理完成;
步骤2)构建CNN卷积神经网络
本文CNN神经网络使用基于CNN的一维模型,包括四个卷积层Conv,两个最大池化层,两个全连接层,一个softmax层;其中Conv1和Conv2的神经元个数都是256个,内核大小都是3个,全零填充步长都为1,Conv3和Conv4神经元个数为128,内核大小为2,全零填充步长为1,两个最大池化层内核为2,填充步长为2,两个全连接层神经元个数为128;所述CNN模型训练的每个池层最后都用批规范化,四个卷积层使用的激活函数都是ReLU函数,训练模型Adam优化算法时最大30epochs,学习速率为0.001;本网络使用早期停止,即当训练在5个epochs内,损失函数没有提升,训练终止;本网络结果基于10倍交叉验证;
步骤3)将步骤1)处理好的CNN训练集输入到步骤2)中构建好的CNN卷积神经网络中进行训练得到CNN算法模型;
步骤4)将训练好的CNN算法模型保存到业务识别分类器模型库中。
9.根据权利要求7所述的一种基于联邦学习的业务识别方法,其特征在于,所述步骤5还包括合并众多参与在线训练的路由器识别出的数据流特征,以提高业务识别的实时性性能,根据业务的演进自动更新模型,改善因业务更新造成的识别模型准确率下降状况,使得识别模型的识别率长时间维持在较高水平;同时通过将识别出的数据流特征部署到更多的路由器上,可增强识别模型的泛化能力。
10.根据权利要求1‑6、8‑9任一项所述的一种基于联邦学习的业务识别方法,其特征在于,所述业务类型包括游戏类、视频类、社交类和WEB浏览类;所述游戏类、视频类、社交类和WEB浏览类业务类型分别对应腾讯游戏、抖音、微信和微博四种数据流。