1.一种多设备协同任务执行方法,其特征在于,包括:
S10:基于待执行任务构建大模型,并将大模型划分为M个对待执行任务进行顺序处理的模型分片;
S20:在各个相互连通的边缘计算设备上加载并计算各个模型分片,获取各个边缘计算设备对各个模型分片的加载时间、计算时间和通信时延,从而构建待执行任务仿真模型;
S30:利用蒙特卡洛树搜索算法和负载感知上置信界限策略,基于模型分片的执行顺序和前n-1次迭代的任务分配策略的累积奖励值,依次为M个模型分片进行迭代搜索边缘计算设备,得到第n次迭代的任务分配策略;其中,n≥1,当n=1时,第n-1次迭代的任务分配策略的奖励值为预设值;
S40:利用待执行任务仿真模型基于第n次迭代的任务分配策略进行仿真模拟,得到第n次迭代的任务分配策略的奖励值,更新n=n+1并返回执行步骤S30,直至达到预设迭代收敛条件,得到目标任务分配策略;
S50:基于目标任务分配策略将M个模型分片分别部署在对应的边缘计算设备上,从而利用多个边缘计算设备上的模型分片协同实现待执行任务。
2.根据权利要求1所述的多设备协同任务执行方法,其特征在于,
当待执行任务为智能问答任务时,大模型为智能问答机器人模型,大模型的输入为查询问题文本,大模型的输出为答案文本;
当待执行任务为图像分类任务时,大模型为图像分类模型,大模型的输入为待分类图像,大模型的输出为图像类别预测概率。
3.根据权利要求1所述的多设备协同任务执行方法,其特征在于,步骤S30包括:S300:初始化m=1;
S301:利用负载感知上置信界限策略,基于前n-1次迭代的任务分配策略下各个边缘计算设备的累积奖励值,计算将第m个模型分片分配至各个边缘计算设备的优先级,从而对第m个模型分片进行分配;
S302:更新m=m+1并返回执行步骤S301,直至基于前m-1个模型分片的分配结果,存在前n-1次迭代中均未被选为分配第m个模型分片的边缘计算设备,则将第m个模型分片分配至该边缘计算设备;
S303:对第m+1至第M个模型分片随机分配边缘计算设备,从而基于第1~M个模型分片的分配结果得到第n次迭代的任务分配策略。
4.根据权利要求3所述的多设备协同任务执行方法,其特征在于,步骤S301包括:将前n-1次迭代的任务分配策略下各个边缘计算设备被选择的次数、累积奖励值、将第m个模型分片分配至各个边缘计算设备后各个边缘计算设备的负载,输入负载感知上置信界限计算公式,得到将第m个模型分片分配至各个边缘计算设备的优先级;
将第m个模型分片分配至优先级最高的边缘计算设备。
5.根据权利要求4所述的多设备协同任务执行方法,其特征在于,负载感知上置信界限计算公式表示为:,
其中,表示负载感知上置信界限计算公式;表示前n-1次迭代的任务分配策略下第个边缘计算设备的累积奖励值;表示前n-1次迭代的任务分配策略下第个边缘计算设备被选择的次数;表示在前 n - 1 次迭代的任务分配策略下,当第个边缘计算设备被选为子节点时,其父节点被选择的总次数;表示将第m个模型分片分配至第个边缘计算设备;表示将第m个模型分片分配至第个边缘计算设备后第个边缘计算设备的负载;、表示预设的正常数超参数。
6.根据权利要求1所述的多设备协同任务执行方法,其特征在于,步骤S40包括:利用待执行任务仿真模型仿真模拟第n次迭代的任务分配策略下,各个边缘计算设备的实际加载时间、实际计算时间、实际通信时延;
分别对各个边缘计算设备的实际加载时间、实际计算时间和实际通信时延进行转化,得到各个边缘计算设备的加载奖励、计算奖励和通信时延奖励;
对各个边缘计算设备的加载奖励、计算奖励和通信时延奖励加权求和,得到第n次迭代的任务分配策略下各个边缘计算设备的奖励值。
7.根据权利要求6所述的多设备协同任务执行方法,其特征在于,第n次迭代的任务分配策略下各个边缘计算设备的奖励值的计算公式表示为:,
其中,表示第个边缘计算设备的奖励值;表示时间到奖励的转化函数;表示第个边缘计算设备的实际加载时间;表示的权重;表示第个边缘计算设备的实际计算时间;表示的权重;表示第个边缘计算设备的实际通信时延;表示的权重。
8.根据权利要求1所述的多设备协同任务执行方法,其特征在于,步骤S30前还包括:基于各个模型分片的预设加载时间和预设计算时间,以及各个边缘计算设备对各个模型分片的加载时间和计算时间,构建各个模型分片的可用边缘计算设备集合,以便在各个模型分片的可用边缘计算设备集合中依次为M个模型分片进行迭代搜索边缘计算设备。
9.一种多设备协同任务执行装置,其特征在于,包括:
模型构建及分片模块,用于基于待执行任务构建大模型,并将大模型划分为M个对待执行任务进行顺序处理的模型分片;
建模分析模块,用于在各个相互连通的边缘计算设备上加载并计算各个模型分片,获取各个边缘计算设备对各个模型分片的加载时间、计算时间和通信时延,从而构建待执行任务仿真模型;
模型分配模块,用于利用蒙特卡洛树搜索算法和负载感知上置信界限策略,基于模型分片的执行顺序和前n-1次迭代的任务分配策略的累积奖励值,依次为M个模型分片进行迭代搜索边缘计算设备,得到第n次迭代的任务分配策略;其中,n≥1,当n=1时,第n-1次迭代的任务分配策略的奖励值为预设值;
环境模拟模块,用于利用待执行任务仿真模型基于第n次迭代的任务分配策略进行仿真模拟,得到第n次迭代的任务分配策略的奖励值,更新n=n+1并返回执行迭代分配模块执行的步骤,直至达到预设迭代收敛条件,得到目标任务分配策略;
协同任务执行模块,用于基于目标任务分配策略将M个模型分片分别部署在对应的边缘计算设备上,从而利用多个边缘计算设备上的模型分片协同实现待执行任务。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1~8任一项所述的多设备协同任务执行方法的步骤。