本申请属于信息,尤其涉及一种工业互联网计算干扰避免方法、存储介质和处理器。
背景技术:
1、现有技术中,带宽有限的工业互联网环境存在模型下载时的带宽竞争问题,即多个模型的副本部署,同时请求下载可能导致网络瓶颈,存在网络带宽竞争和硬件干扰问题,影响模型推理性能。现有技术存在不足。
技术实现思路
1、本申请基于信道残差控制的支持协作优化网络传输瓶颈的无服务器推理系统,旨在协调优化网络传输瓶颈和推理性能,解决工业互联网边缘计算中,下载模型参数或图像时会加剧网络带宽竞争的技术问题。
2、一方面,本申请提供了一种工业互联网计算干扰避免方法;所述方法包括下述步骤:
3、s1.所有节点将当前还需要下载的数据量作为该节点的剩余数据下载量,管理节点更新对所有节点的剩余数据下载量的记录;
4、s2.管理节点根据每个模型所对应的副本的数据量大小,对所有需要部署的副本进行排序;将数据量最大的副本作为选择为当前处理副本;
5、s3.管理节点优先选择所述剩余数据下载量最小的节点作为待部署节点;
6、s4.管理节点检查所述待部署节点剩余资源能否满足该副本的部署需求,若不满足则跳转到步骤s3顺次选择下一个节点;若满足,则进入步骤s5;
7、s5.所述待部署节点将当前处理副本的数据量加入所述剩余数据下载量,得到更新后的剩余数据下载量;所述待部署节点将最后分配时间更新为当前时间;
8、s6.当前处理副本被添加到所述待部署节点的部署队列中;
9、s7.管理节点的主调度进程跳转到步骤s3,根据副本排序继续处理下一个副本。
10、另一方面,本申请还提供了一种存储介质,所述存储介质存储有能够实现上述工业互联网计算干扰避免方法的程序文件。
11、另一方面,本申请还提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述工业互联网计算干扰避免方法。
12、本申请针在优化工业互联网边缘模型推理中的模型放置,能够识别并发多模型部署过程中的网络通信出现的瓶颈,并动态调整待下载副本的顺序和待部署节点的优先顺序,使得数据量大的副本与剩余数据量小的节点优先匹配,从而避免网络带宽的竞争。此外,该策略还能优化模型放置的顺序和传输序列,使得推理任务能够更高效地执行。
1.一种工业互联网计算干扰避免方法,其特征在于,所述方法包括下述步骤:
2.如权利要求1所述的方法,其特征在于,所述步骤s1中,所述管理节点计算所有节点需要下载的数据总量。
3.如权利要求2所述的方法,其特征在于,所述步骤s2中,所述管理节点按降序对所有需要部署的副本进行排序;所述数据量包括副本的主体数据和/或副本的参数数据。
4.如权利要求1所述的方法,其特征在于,所述步骤s3中,若多个节点的所述剩余数据下载量相同,则优先选择最后分配时间最早的节点作为所述待部署节点。
5.如权利要求4所述的方法,其特征在于,所述步骤s4中,所述部署需求包括当前处理副本的容量需求和计算资源需求。
6.如权利要求5所述的方法,其特征在于,所述步骤s6中,所述部署队列异步运行。
7.如权利要求6所述的方法,其特征在于,还包括以下步骤:
8.如权利要求7所述的方法,其特征在于,所述步骤y2中,节点比较网络竞争比的变化,如果立即部署副本的网络竞争比和当前的网络竞争比的差值高于预定义的阈值α,副本就会被立即部署;否则继续等待一个间隔的时间;所述网络竞争比为单个模型下载所需的时间与从扩容到部署就绪的持续时间的差与单个模型下载所需的时间的比值。
9.如权利要求8所述的方法,其特征在于,所述步骤y2中还包括,如果所述部署队列中有副本达到了允许的最大等待时间,就会立即部署该副本,不再等待。
10.一种存储介质,其特征在于,所述存储介质存储有能够实现权利要求1至9中任意一项所述的工业互联网计算干扰避免方法的程序文件。
11.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1至9中任意一项所述的工业互联网计算干扰避免方法。