面向云边算网系统的容器化服务资源供应分配方法及系统与流程

    专利2025-06-05  80


    本发明涉及分布式计算,具体为面向云边算网系统的容器化服务资源供应分配方法及系统。


    背景技术:

    1、目前,基于部署在远程大型基础设施上的集中式云计算系统,面临着越来越多来自对时延等服务质量要求严格的新兴应用需求的挑战,包括自动驾驶或无人驾驶、虚拟现实或增强现实、交互式游戏等。过度依赖云数据中心资源,不但会导致服务质量的难以保证的问题,而且网络系统中大量远离云中心的边缘节点以及用户侧终端设备本身拥有的计算能力、存储空间等资源却常处于闲置状态,海量资源被浪费了。

    2、与云计算不同,边缘计算将计算任务在接近数据源的计算资源上运行,将云端计算下降到网络边缘,以有效减小计算系统的延迟,减少数据传输带宽,缓解云计算中心压力。边缘计算的实施方式是在靠近终端用户的网络边缘构建分布式边缘云基础设施,以便在边缘部署服务并满足其qos要求。边缘云由分布的边缘计算点组成,与集中云基础设施相比,每个边缘计算点的资源量是有限的。

    3、云边算网系统由中心云、若干边缘云、若干独立的边缘服务器、若干网络终端构成,通过把后端的中心云服务器、网络边缘云服务器以及网络终端蕴含的各层次计算、存储资源均有机聚合在一起,充分发挥云中心、网络边缘和用户终端各自的地理、性能、成本优势,将任务分解、封装后,有序地部署到不同节点上完成,按需求解各类复杂的用户应用,从“资源集中共享模式”走向“分布式互助共享模式”,实现最大范围的业务协作与资源分享,真正达成高效率、低成本、资源利用最大化等计算目标。

    4、云边算网系统中,应用服务供应者将其容器化服务功能提供给计算点,而终端用户提交具有严格的响应延迟期限的时间敏感的计算请求。响应延迟是指向网络提交计算请求和接收计算结果之间的延迟。云边算网系统基础设施代表为应用服务提供者负责资源供应和分配,然后向应用程序供应者收取实际资源使用费用。云边算网系统的资源管理模块要能细致地决定为每个应用程序提供的实例数量和选择调度的计算点,以提升计算点的资源利用率和满足终端用户请求的响应期限要求。


    技术实现思路

    1、鉴于上述存在的问题,提出了本发明。

    2、因此,本发明解决的技术问题是:云边算网系统在实现管理目标时服务的供应和终端请求的调度必须同时考虑请求响应延迟需求、服务容器冷启动供应开销以及通信和协调开销。

    3、为解决上述技术问题,本发明提供如下技术方案:面向云边算网系统的容器化服务资源供应分配方法,包括:云边算网系统接收用户请求信息,构建全局控制器,根据用户请求信息选择提供资源的边缘云;在边缘云的计算点上构建准入控制器,接纳请求信息并放入请求队列中;采用最早截止时间优先调度策略,处理请求队列中的请求信息,实现服务资源供应分配。

    4、作为本发明所述的面向云边算网系统的容器化服务资源供应分配方法的一种优选方案,其中:所述全局控制器监控所有边缘云的最新状态,包括边缘云的输入队列大小、活动池实例状态、资源使用率、网络带宽和延迟、服务响应时间以及能源消耗;所述计算点包含容器活动池,用于提供不同服务的若干容器,请求信息到达计算点时,准入控制器对请求信息的截止时间和计算的容器实例进行判断,当计算点处理请求信息所用的时间小于等于请求信息的截止时间,且计算点存在容器实例处理请求信息时,接纳请求信息并放入请求队列中;当计算点处理请求信息所用的时间大于请求信息的截止时间,或者计算点的中没有容器实例处理请求信息时,计算点拒绝请求信息,被拒绝的请求信息沿计算点到后端云的路径,转移到下一个计算点,由下一个计算点的准入控制器进行判断。

    5、作为本发明所述的面向云边算网系统的容器化服务资源供应分配方法的一种优选方案,其中:所述容器实例包括,将容器实例安排在一个cpu核心上,启动一个容器实例看作是占用一个cpu核心一段时间槽内的任务,在边缘云上,载入一个容器镜像所占用的核心数表示为:

    6、

    7、同时,活动池中的每个容器一次只能启动一个容器实例,表示为:

    8、

    9、在时间槽内的容器在边缘云上的活动池实例上定义了随时间演化的集合,表示为:

    10、

    11、其中,表示载入一个容器镜像所占用的核心数;f表示容器;表示容器集合;v表示边缘云上的容器;边缘云h上的容器集合;t表示时间槽;表示时间槽集合;i表示剩余时间槽;表示启动容器实例的时间槽开销;表示在时间槽i上将容器f的一个镜像作为容器实例v运行的二进制决定变量;h表示边缘云;表示边缘云集合;表示在时间槽t内边缘云h上的容器f实例集合;f′表示除f以外的其他容器;边缘云通过在空闲核心上调度容器的可用实例来处理对的请求,即执行容器到核心的关联,容器处于运行状态,运行实例数定义为:

    12、

    13、运行实例的数量受限于边缘云的核心总数以及加载镜边缘云时占用的核心数,约束表示为:

    14、

    15、其中,表示容器v在时间槽t时与核心的关联的二进制变量;表示时间槽t的在边缘云h上的关于容器f的热实例的数量。

    16、作为本发明所述的面向云边算网系统的容器化服务资源供应分配方法的一种优选方案,其中:对于给定时间槽内的边缘云,所述请求队列的队列长度变化表示为,

    17、

    18、

    19、对于具有相同网络连接点的用户,关于容器在时间槽t内需要转发到边缘的请求表示为:

    20、

    21、在时间槽t时到达边缘云的队列类的容器的请求表示为:

    22、

    23、其中,表示在时间槽t内的边缘云h上的k类队列上容器f的请求数;表示针对容器f在时间槽t时到达边缘云h的k类队列的总请求数;容器f在时间槽t时服务边缘云h的k类队列的总请求数;表示队列类总数;表示g组关于容器f在时间槽t内需要转发到边缘云h的请求数;表示用户组g在时间槽t时对容器f的需求;表示以用户对网络的连接点位置定义的用户组集合;表示在边缘云h的组g上的容器f的请求到达队列类;δtgh表示以时间槽为单位的,从组g到边缘云h上的延迟转发开销。

    24、作为本发明所述的面向云边算网系统的容器化服务资源供应分配方法的一种优选方案,其中:所述准入控制器包括,边缘云对于请求信息的准入接受与保证在其剩余的截止时间内得到服务相关联,从k=1队列类服务的请求数量必须总是满足到达的请求以及队列中的现有请求,表示为:

    25、

    26、k队列类的服务请求必须遵守队列类优先级以及容器在边缘云和时间内的活动池实例数,表示为:

    27、

    28、其中,表示容器f在时间槽t时服务边缘云h的k类队列的总请求数。

    29、作为本发明所述的面向云边算网系统的容器化服务资源供应分配方法的一种优选方案,其中:所述最早截止时间优先调度策略包括,当容器实例正在处理请求的时候,将容器实例标记为忙碌状态,不接受请求信息,若计算点没有非忙碌状态的容器实例,调度控制器将请求信息放入排队队列,直到出现非忙碌状态的容器实例。

    30、第二方面,本发明还提供了面向云边算网系统的容器化服务资源供应分配系统,包括,全局控制模块,云边算网系统接收用户请求信息,构建全局控制器监控所有边缘云的最新状态,根据用户请求信息选择提供资源的边缘云;准入控制模块,在边缘云的计算点上构建准入控制器,准入控制器对请求信息的截止时间和计算的容器实例进行判断,接纳请求信息并放入请求队列中;调度控制模块,采用最早截止时间优先调度策略,处理请求队列中的请求信息,实现服务资源供应分配。

    31、作为本发明所述的面向云边算网系统的容器化服务资源供应分配系统的一种优选方案,其中:所述全局控制器监控所有边缘云的最新状态,包括边缘云的输入队列大小、活动池实例状态、资源使用率、网络带宽和延迟、服务响应时间以及能源消耗;所述计算点包含容器活动池,用于提供不同服务的若干容器,请求信息到达计算点时,准入控制器对请求信息的截止时间和计算的容器实例进行判断,当计算点处理请求信息所用的时间小于等于请求信息的截止时间,且计算点存在容器实例处理请求信息时,接纳请求信息并放入请求队列中;当计算点处理请求信息所用的时间大于请求信息的截止时间,或者计算点的中没有容器实例处理请求信息时,计算点拒绝请求信息,被拒绝的请求信息沿计算点到后端云的路径,转移到下一个计算点,由下一个计算点的准入控制器进行判断。

    32、第三方面,本发明还提供了一种计算设备,包括:存储器和处理器;

    33、所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现所述面向云边算网系统的容器化服务资源供应分配方法的步骤。

    34、第四方面,本发明还提供了一种计算机可读存储介质,其存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现所述面向云边算网系统的容器化服务资源供应分配方法的步骤。

    35、本发明的有益效果:本发明方法使得终端提出的计算请求被位于从终端、边缘节点到后端云服务器的路径上的计算点适时处理,保证请求得到处理,为终端用户提供最高的服务质量。有效提升在服务截止时间内被处理并返回给原始用户的请求比率,同时提升边缘云中的资源利用率,降低计算点启动的新的容器实例的平均数量。


    技术特征:

    1.面向云边算网系统的容器化服务资源供应分配方法,其特征在于,包括:

    2.如权利要求1所述的面向云边算网系统的容器化服务资源供应分配方法,其特征在于:所述全局控制器监控所有边缘云的最新状态,包括边缘云的输入队列大小、活动池实例状态、资源使用率、网络带宽和延迟、服务响应时间以及能源消耗;

    3.如权利要求2所述的面向云边算网系统的容器化服务资源供应分配方法,其特征在于:所述容器实例包括,将容器实例安排在一个cpu核心上,启动一个容器实例看作是占用一个cpu核心一段时间槽内的任务,在边缘云上,载入一个容器镜像所占用的核心数表示为:

    4.如权利要求3所述的面向云边算网系统的容器化服务资源供应分配方法,其特征在于:对于给定时间槽内的边缘云,所述请求队列的队列长度变化表示为,

    5.如权利要求4所述的面向云边算网系统的容器化服务资源供应分配方法,其特征在于:所述准入控制器包括,边缘云对于请求信息的准入接受与保证在其剩余的截止时间内得到服务相关联,从k=1队列类服务的请求数量必须总是满足到达的请求以及队列中的现有请求,表示为:

    6.如权利要求5所述的面向云边算网系统的容器化服务资源供应分配方法,其特征在于:所述最早截止时间优先调度策略包括,当容器实例正在处理请求的时候,将容器实例标记为忙碌状态,不接受请求信息,若计算点没有非忙碌状态的容器实例,调度控制器将请求信息放入排队队列,直到出现非忙碌状态的容器实例。

    7.一种面向云边算网系统的容器化服务资源供应分配系统,其特征在于,包括,

    8.如权利要求7所述的面向云边算网系统的容器化服务资源供应分配系统,其特征在于:所述全局控制器监控所有边缘云的最新状态,包括边缘云的输入队列大小、活动池实例状态、资源使用率、网络带宽和延迟、服务响应时间以及能源消耗;

    9.一种计算设备,包括:存储器和处理器;

    10.一种计算机可读存储介质,其存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现权利要求1至7任一项所述的方法的步骤。


    技术总结
    本发明公开了面向云边算网系统的容器化服务资源供应分配方法及系统,包括:云边算网系统接收用户请求信息,构建全局控制器,根据用户请求信息选择提供资源的边缘云;在计算点上构建准入控制器,接纳请求信息并放入请求队列中;采用最早截止时间优先调度策略,处理请求队列中的请求信息,实现服务资源供应分配。本发明方法使得终端提出的计算请求被位于从终端、边缘节点到后端云服务器的路径上的计算点适时处理,保证请求得到处理,为终端用户提供最高的服务质量。有效提升在服务截止时间内被处理并返回给原始用户的请求比率,同时提升边缘云中的资源利用率,降低计算点启动的新的容器实例的平均数量。

    技术研发人员:何金陵,汤铭,刘喆,赵金波,徐小龙,王智慷,奚梦婷
    受保护的技术使用者:国网江苏省电力有限公司信息通信分公司
    技术研发日:
    技术公布日:2024/4/29
    转载请注明原文地址:https://wp.8miu.com/read-87762.html

    最新回复(0)