1.一种基于深度学习模型的边缘智能协同推断方法,其特征在于,包括:
获取巡检设备和边缘设备的参数信息,以及所述巡检设备采集的监控图像数据的处理需求;
基于所述参数信息和处理需求分别构建第一深度学习模型和第二深度学习模型,其中,所述第一深度学习模型的网络层数以及每层的神经元个数少于所述第二深度学习模型,以所述第二深度学习模型为主干网络,在中间层构建若干退出点,得到所述第二深度学习模型的第三分支模型,并分别将所述第一深度学习模型和第三分支模型经过训练之后部署到所述巡检设备和边缘设备;
基于所述第一深度学习模型和处理需求对所述监控图像数据进行任务推断,得到第一推断结果,判断所述第一推断结果的最大置信度值是否达到最佳置信度标准值,若是,将所述第一推断结果发送给控制中心,否则将所述监控图像数据发送给所述边缘设备,由所述第三分支模型进行任务推断,得到第二推断结果,将其发送给所述控制中心。
2.如权利要求1所述的一种基于深度学习模型的边缘智能协同推断方法,其特征在于,所述由所述第三分支模型进行任务推断,具体包括:
从所述第三分支模型的输入层开始,依次通过每个所述退出点,当其中某一退出点的输出层输出的第三推断结果满足预设的退出条件时,则退出所述第三分支模型的输出结果,将所述第三推断结果作为所述第二推断结果。
3.如权利要求2所述的一种基于深度学习模型的边缘智能协同推断方法,其特征在于,所述第三分支模型的每个分支网络退出点的损失函数都采用交叉熵损失函数计算,每个交叉熵损失函数分别乘以权重参数再相加进行联合优化作为所述第三分支模型的整个分支网络的优化目标:与当前网络状态和最佳通信标准值之间的关系,表示通信时间延迟与当前网络状态和最佳通信标准值之间的关系,为采集的监控图像的总数量,是所述巡检设备端的额外计算量的权重系数,是通信时间延迟的权重系数,表示所有监控图像数据均使用所述第四深度学习模型进行推断任务的处理时间的总和,表示所有监控图像数据均卸载到边缘设备端处理的通信时间;出点,得到所述第二深度学习模型的第三分支模型,所述第一深度学习模型和第二深度学习模型是基于所述巡检设备和边缘设备的参数信息以及所述巡检设备采集的监控图像数据的处理需求构建的,所述第一深度学习模型的网络层数以及每层的神经元个数少于所述第二深度学习模型,分别将所述第一深度学习模型和第三分支模型经过训练之后部署到所述巡检设备和边缘设备;
所述巡检设备端基于所述第一深度学习模型和处理需求对所述监控图像数据进行任务推断,得到第一推断结果,所述巡检设备还包括置信度值判定器,用于判断所述第一推断结果的最大置信度值是否达到最佳置信度标准值,若是,则所述巡检设备将所述第一推断结果发送给所述控制中心,否则将所述监控图像数据发送给所述边缘设备;
所述边缘设备端的第三分支模型根据接收的所述监控图像数据进行任务推断,得到第二推断结果,并将其发送给所述控制中心;
所述控制中心用于根据推断结果对系统内的设备进行相关的维护工作。8.如权利要求7所述的一种基于深度学习模型的边缘智能协同推断系统,其特征在于,所述边缘设备端的第三分支模型具体用于:从所述第三分支模型的输入层开始,依次通过每个所述退出点,当其中某一退出点的输出层输出的第三推断结果满足预设的退出条件时,则退出所述第三分支模型的输出结果,将所述第三推断结果作为所述第二推断结果。
9.如权利要求7或8所述的一种基于深度学习模型的边缘智能协同推断系统,其特征在于,所述巡检设备还包括网络状态检查器,当所述置信度值判定器判断所述第一推断结果的最大置信度值没有达到最佳置信度标准值时,启动所述网络状态检查器,获取当前环境的网络状态信息,判断当前网络状态是否满足最佳通信标准值,若是,则所述巡检设备将所述监控图像数据发送给所述边缘设备;否则将所述监控图像数据输入到第四深度学习模型中进行任务推断,得到第四推断结果,并将其发送给所述控制中心;其中,所述第四深度学习模型的网络层数以及每层的神经元个数大于所述第一深度学习模型且小于所述第二深度学习模型,所述第四深度学习模型部署是基于所述参数信息和处理需求构建并经过训练之后部署到所述巡检设备的。