1.基于云边端协同的深度学习模型训练和推理架构部署方法,其特征在于,预设区域内设有一个云服务器,云服务器的通信范围内至少设有两个边缘服务器,各边缘服务器的通信范围内至少设有一个物理终端,各边缘服务器与其通信范围内的各物理终端之间的距离小于边缘服务器与云服务器之间的距离;其中,各边缘服务器搭载训练模块、推理模块、态势感知中心;
其中,态势感知中心包括边缘服务器计算能力感知模块、云服务器计算能力感知模块,针对云服务器的通信范围内任意一个边缘服务器i,边缘服务器i的边缘服务器计算能力感知模块用于获取在边缘服务器i通信范围内与其距离小于预设距离的各边缘服务器jm的计算资源使用情况 带宽占用情况 物理距离 以及边缘服务器i自身计算资源闲置率bi,其中m为边缘服务器i通信范围内与其距离小于预设距离的各边缘服务器的编号,1≤m≤n,n为边缘服务器i通信范围内与其距离小于预设距离的边缘服务器总数;云服务器计算能力感知模块用于获取边缘服务器i所在的预设区域的云服务器的计算资源使用情况bc、带宽占用情况ric、物理距离lic;
边缘服务器i中的边缘服务器计算能力感知模块以预设周期获取自身计算资源闲置率bi,当边缘服务器i的自身计算资源闲置率bi大于或等于预设上限值时,按如下步骤S1‑步骤S5获得使计算资源成本最小的资源成本模型,并依据该资源成本模型选择和部署对应的架构,完成深度学习模型的训练;
S1:边缘服务器i通知其通信范围内的各物理终端收集计算数据,并对计算数据进行初步筛选,将初步筛选后的计算数据上传至边缘服务器i;
S2:边缘服务器i针对收到的计算数据进行再次筛选,确定经过再次筛选后的计算数据的数据量d,同时基于边缘服务器计算能力感知模块、云服务器计算能力感知模块,计算边缘服务器i的自身计算资源闲置率bi、边缘服务器i所在的预设区域的云服务器的计算资源使用情况bc、边缘服务器i通信范围内与其距离小于预设距离的各边缘服务器的计算资源使用情况 带宽占用情况 物理距离 边缘服务器i所在的预设区域的云服务器的带宽占用情况ric、物理距离lic;
S3:将步骤S2所获取的 传送至边缘服务器i的训练
模块,基于近端策略优化算法,以 为输入,以所对应的计算资源成本C1为输出,构建第一资源成本模型如下式:其中,第一资源成本模型对应边边协同训练架构,边边协同训练架构包括边缘服务器i、边缘服务器i通信范围内与其距离小于预设距离的边缘服务器jm;
基于近端策略优化算法,以 为输入,以所对应的计算资源成
本C2为输出,构建第二资源成本模型如下式:
其中,第二资源成本模型对应边云协同训练架构,边云协同训练架构包括云服务器、边缘服务器i、边缘服务器i通信范围内与其距离小于预设距离的边缘服务器jm;
基于近端策略优化算法,以 为输入,以所对应的计算资源成本C3为输出,构建第三资源成本模型如下式:C3=f3(bc,lic,ric,d)
其中,第三资源成本模型对应云训练架构,云训练架构包括云服务器;
式中:f1、f2、f3表示近端策略优化算法计算;
S4:基于步骤S3中所获得的各资源成本模型的计算资源成本C1、C2、C3,边缘服务器i的训练模块对计算资源成本C1、C2、C3进行比较,选择计算资源成本最小的资源成本模型所对应的架构进行部署,并进行深度学习模型训练;
S5:基于经过边缘服务器i筛选后的各计算数据的参与训练,获得深度学习模型,将该深度学习模型存储至云服务器、以及边缘服务器i中,完成架构选择和部署。
2.根据权利要求1所述的基于云边端协同的深度学习模型训练和推理架构部署方法,其特征在于,步骤S4中训练模块对各资源成本模型的计算资源成本C1、C2、C3进行比较,若出现计算资源成本相同的情况,则以边边协同训练架构、边云协同训练架构、云训练架构优先级顺序进行选取。
3.根据权利要求1所述的基于云边端协同的深度学习模型训练和推理架构部署方法,其特征在于,当物理终端向其通信范围内的边缘服务器i发出计算请求,并上传计算任务时,按如下步骤S11‑步骤S14完成架构选择和部署:S11:物理终端将位置信息发送至边缘服务器i,并对计算数据进行初步筛选,物理终端将经过筛选的计算数据传送至边缘服务器i;
S12:边缘服务器i接收来自物理终端的计算数据并进行再次筛选,确定再次筛选后的数据量d,边缘服务器i的边缘服务器计算能力感知模块、云服务器计算能力感知模块计算其中D为存储在边缘服务器i中的深度学习模型的数据量;
S13:将步骤S12所获得的 传送至边缘服务器i的
推理模块,基于近端策略优化算法,以 为输入,以所对应的计算
资源成本C4为输出,构建第四资源成本模型如下式:
其中,第四资源成本模型对应边边协同推理架构,边边协同推理架构包括边缘服务器i、边缘服务器i通信范围内与其距离小于预设距离的边缘服务器jm;
基于近端策略优化算法,以 为输入,以所对应的
计算资源成本C5为输出,构建第五资源成本模型如下式:
其中,第五资源成本模型对应边云协同推理架构,边云协同推理架构包括云服务器、边缘服务器i、边缘服务器i通信范围内与其距离小于预设距离的边缘服务器jm;
式中,f4、f5表示近端策略优化算法计算;
S14:边缘服务器i的推理模块计算各资源成本模型的计算资源成本C4、C5,并对计算资源成本C4、C5进行比较,选取计算资源成本最小的资源成本模型,并以该资源成本模型所对应的架构进行部署,根据边缘服务器i选定的架构,云服务器选择将部分或全部深度学习模型卸载到边缘服务器i上,同时缓存一份深度学习模型于当前边缘服务器i的推理模块中,若计算资源成本C4、C5相同,则按边边协同推理架构、边云协同推理架构优先级顺序进行选取。