调度系统及方法、CDN系统与流程

    专利2022-07-07  104


    本发明实施例涉及计算机网络技术领域,特别涉及一种调度系统及方法、cdn系统。



    背景技术:

    内容分发网络(contentdeliverynetwork,简称cdn)是构建在现有网络基础之上的智能虚拟网络,依靠部署在各地的边缘节点,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容,降低网络拥塞,提高用户访问响应速度和命中率。在cdn网络的调度中,常用的调度方式为中心式调度:由一个或多个中心服务器采集从各边缘节点上采集所需的数据集中进行决策,然后根据决策结果进行调度。

    然而,在采用中心式调度的方式进行边缘节点调度时,涉及到监控数据、边缘节点资源、成本、流量等数据进行综合决策调度,数据量大、维度多,造成计算量过大导致调度滞后的问题;同时,从数据采集到决策并生成调度策略、调度策略下发等,整个调度链路很长,存在调度实时性不足的问题。



    技术实现要素:

    本发明实施方式的目的在于提供一种调度系统及方法、cdn系统,中央调度设备能够预先设定了各边缘节点的调度策略,从而在任一边缘节点处于过载状态时,由其对应的边缘调度模块进行再次调度实现过载分流处理,确保了调度的进准性,保证了用户的访问请求的高可用性,为用户提供了更高的服务质量。

    为解决上述技术问题,本发明的实施方式提供了一种调度系统,包括:中心调度设备、多个边缘节点以及多个边缘调度模块,各边缘调度模块分别连接于中心调度设备,边缘调度模块与边缘节点一一对应,各边缘节点连接于对应的边缘调度模块;中心调度设备用于根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略,并将各边缘节点的调度策略发送到对应的边缘调度模块;边缘调度模块用于根据目标边缘节点的调度策略,对接收到的访问请求进行调度;目标边缘节点为与边缘调度模块对应的边缘节点。

    本发明的实施方式还提供了一种cdn系统,包括:上述的调度系统。

    本发明的实施方式还提供了一种调度方法,应用于调度系统中的边缘调度模块,调度系统包括中心调度设备、多个边缘节点以及多个边缘调度模块,各边缘调度模块分别连接于中心调度设备,边缘调度模块与边缘节点一一对应,各边缘节点连接于对应的边缘调度模块;方法包括:向中心调度设备发送对应的边缘节点的调度参数,并接收中心调度设备发送的对应的边缘节点的调度策略;其中,中心调度设备根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略;根据目标边缘节点的调度策略,对接收到的访问请求进行调度。

    本发明实施方式相对于现有技术而言,调度系统中的中心调度设备能够根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略,并将各边缘节点的调度策略发送到对应的边缘调度模块,从而各边缘节点所对应的边缘调度模块能够根据目标边缘节点的调度策略,对接收到的访问请求进行调度;即提供了一种分布式的调度系统,中央调度设备预先设定了各边缘节点的调度策略,从而在任一边缘节点处于过载状态时,由其对应的边缘调度模块再次调度实现过载分流处理,确保了调度的进准性,保证了用户的访问请求的高可用性,为用户提供了更高的服务质量。同时,各边缘调度模块能够根据对应的边缘节点的实际运行情况进行调度,无需中心调度设备的干预,减少了数据汇集、交互以及计算的过程,调度的实时性高、准确度较高。

    另外,调度参数包括:地域信息与链路质量信息;中心调度设备用于根据各边缘节点的地域信息与链路质量信息,确定每个边缘节点的备用边缘节点;每个边缘节点的调度策略包括边缘节点的备用边缘节点;边缘调度模块具体用于在目标边缘节点处于过载状态时,将访问请求调度到目标边缘节点的任一备用边缘节点。本实施例提供了边缘调度模块对新接收到的访问请求进行调度的一种具体方式。

    另外,边缘调度模块还用于在目标边缘节点处于过载状态时,发出表征目标边缘节点处于过载状态的通知信息给中心调度设备;中心调度设备还用于在接收到通知信息时,调整以处于过载状态的目标边缘节点作为备用边缘节点的边缘节点的调度策略。本实施方式中,中心调度设备能够实时调整各边缘节点的调度策略,便于各边缘节点能够更好的进行访问请求的调度,为用户提供更好的服务质量。

    另外,调度参数还包括:节点健康参数与网络质量参数;中心调度设备用于根据每个边缘节点的各备用边缘节点的节点健康参数以及网络质量参数,确定各备用边缘节点的权重值;每个边缘节点的调度策略还包括边缘节点的各备用边缘节点的权重值;边缘调度模块具体用于在目标边缘节点处于过载状态时,根据与目标边缘节点的各备用边缘节点的权重值,将访问请求调度到备用边缘节点。本实施方式中,边缘调度模块在其对应的目标边缘节点处于过载状态时,对于新接收到的访问请求,依据其目标边缘节点的各备用边缘节点的权重值的大小,从所有的备用边缘节点选择一个备用边缘节点,并将访问请求发送到选择的备用边缘节点,能够优先将访问请求调度到质量较好的备用边缘节点,以为用户提供更好的服务质量。

    另外,多个边缘调度模块包括对应于不同的边缘节点的第一边缘调度模块与第二边缘调度模块;第一边缘调度模块对应的边缘节点的调度策略与第二边缘调度模块对应的边缘节点的调度策略中存在相同的备用边缘节点;中心调度设备还用于在接收到第一边缘调度模块以及第二边缘调度模块发送的通知信息时,去除第一边缘调度模块或第二边缘调度模块对应的边缘节点的调度策略中相同的备用边缘节点。本实施例中,能够避免处于过载状态的两个边缘节点新接收到的访问请求被调度到同一个的备用边缘节点,便于各边缘节点能够更好的进行访问请求的调度,为用户提供更好的服务质量。

    另外,边缘节点中包括多个服务器组,每个服务器组包括至少一台缓存服务器;边缘调度模块还用于在判定目标边缘节点未处于过载状态时,根据各服务器组中的缓存服务器的健康值与访问请求对应的内容热度,将访问请求调度到服务器组。

    另外,中心调度设备用于在接收到任一边缘调度模块发送的通知信息时,根据通知信息调整多个边缘节点所属的cdn系统的中继设备中域名与边缘节点的对应关系。本实施方式中,边缘调度模块在目标边缘节点处于过载状态时,能够向中心调度设备发送表征目标边缘节点处于过载状态的通知信息,即向中心调度设备上报目标边缘节点的过载状态,中心调度设备则能够及时调整cdn系统的中继设备中域名与边缘节点的对应关系,从而中继设备后续在接收到用户的访问请求后,不会将该访问请求调度到处于过载状态的边缘节点,用户的访问请求能够得到正常的响应,不会影响用户体验。

    附图说明

    一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除非有特别申明,附图中的图不构成比例限制。

    图1是根据本发明第一实施方式中的调度系统的方框示意图;

    图2是根据本发明第一实施方式中的调度系统应用于cnd系统的方框示意图;

    图3是根据本发明第三实施方式中的调度系统的方框示意图;

    图4是根据本发明第四实施方式中的调度系统应用于cnd系统的方框示意图;

    图5是根据本发明第六实施方式中的调度方法的具体流程图;

    图6是根据本发明第七实施方式中的调度方法的具体流程图;

    图7是根据本发明第八实施方式中的调度方法的具体流程图;

    图8是根据本发明第九实施方式中的调度方法的具体流程图。

    具体实施方式

    为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的各实施方式进行详细的阐述。然而,本领域的普通技术人员可以理解,在本发明各实施方式中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施方式的种种变化和修改,也可以实现本申请所要求保护的技术方案。

    本发明的第一实施方式涉及一种调度系统,用于对cdn系统中的边缘节点进行调度。请参考图1,调度系统包括:中心调度设备1、多个边缘调度模块2以及多个边缘节点3,各边缘调度模块2分别连接于中心调度设备1,边缘调度模块2与边缘节点3一一对应;其中,中心调度设备1可以为包括多个服务器的集群,各边缘调度模块2采用边车模式部署在对应的边缘节点3中,即各边缘调度模块2为部署在对应的边缘节点3上的边车(sidecar),此时中心调度设备1与多个边缘调度模块2形成了服务网格(servicemesh)架构体系。请参考图2,在cdn系统中,中继设备4(例如为dns服务器)在接收到用户通过客户端5发送的访问请求时,根据中继设备4中预设的域名与ip地址的对应关系,获取当前访问请求中包含的域名所对应的ip地址,每个ip地址对应于一个边缘节点3,从而中继设备4可以基于该ip地址将用户的访问请求路由到对应的边缘节点3。其中,中继设备4中的域名与ip地址的对应关系可以通过中心调度设备1来配置。

    中心调度设备1用于根据各边缘调度模块2发送的对应的边缘节点3的调度参数,确定各边缘节点3的调度策略,并将各边缘节点3的调度策略发送到对应的边缘调度模块2。具体而言,对于每个边缘调度模块2,边缘调度模块2能够获取对应的边缘节点3的调度参数,并将对应的边缘节点3的调度参数发送中央调度设备1,对于每个边缘节点3来说,中央调度设备1能够基于该边缘节点3的调度参数设定该边缘节点3的调度策略,然后将该边缘节点3的调度策略发送给该边缘节点3所对应的边缘调度模块2。

    边缘调度模块2用于根据目标边缘节点的调度策略,对接收到的访问请求进行调度;目标边缘节点为与边缘调度模块2对应的边缘节点3。以基于服务网格(servicemesh)的调度系统中的任一边缘调度模块2为例,该边缘调度模块2接收到中继设备4转发的新的访问请求时,则会基于目标边缘节点的调度策略,对该访问请求进行调度,从而能够在目标边缘节点过载时,实现了过载分流处理,避免目标边缘节点因为承载过多的访问请求而宕机。

    本实施方式相对于现有技术而言,调度系统中的中心调度设备能够根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略,并将各边缘节点的调度策略发送到对应的边缘调度模块,从而各边缘节点所对应的边缘调度模块能够根据目标边缘节点的调度策略,对接收到的访问请求进行调度;即提供了一种分布式的调度系统,中央调度设备预先设定了各边缘节点的调度策略,从而在任一边缘节点处于过载状态时,由其对应的边缘调度模块再次调度实现过载分流处理,确保了调度的进准性,保证了用户的访问请求的高可用性,为用户提供了更高的服务质量。同时,各边缘调度模块能够根据对应的边缘节点的实际运行情况进行调度,无需中心调度设备的干预,减少了数据汇集、交互以及计算的过程,调度的实时性高、准确度较高。

    本申请第二实施例涉及一种调度系统,本实施方式相对于第一实施方式而言,主要改进之处在于:提供了边缘调度模块2的具体调度方式。

    本实施例中,请参考图1,各边缘调度模块2采集的对应的边缘节点3的调度参数包括:地域信息与链路质量信息,中心调度设备1在接收到各边缘调度模块2发送的对应的边缘节点3的调度参数后,能够根据各边缘节点3的地域信息与链路质量信息,确定每个边缘节点3的备用边缘节点,每个边缘节点3的调度策略包括边缘节点3的备用边缘节点。具体的,地域信息可以为边缘节点3所处的区域、省份、市区等,链路质量信息可以为两个边缘节点3之间的链路质量,例如,第一边缘节点直接到第二边缘节点的链路质量,或者第一边缘节点通过第二边缘节点到第三边缘节点的链路质量;对于每个边缘节点3(后称为边缘节点a),中心调度设备1从与边缘节点a位于同一地域的多个边缘节点3中选取链路质量大于预设的链路质量阈值的边缘节点3作为边缘节点a的备用边缘节点。

    边缘调度模块2具体用于在目标边缘节点处于过载状态时,将访问请求调度到目标边缘节点的任一备用边缘节点。具体的,边缘调度模块2能够获取的目标边缘节点的运行参数,来判断目标边缘节点是否处于过载状态,对于新接收到的访问请求,边缘调度模块2在其对应的目标边缘节点处于过载状态时,从所有的备用边缘节点选择一个备用边缘节点,例如随机选择,并将访问请求发送到选择的备用边缘节点。其中,其中运行参数包括以下任意之一或任意组合:带宽数据、告警数据、质量数据、流量成本相关数据。举例来说,运行参数为带宽数据,边缘调度模块2实时监测与其对应的目标边缘节点的带宽,当带宽超过预设的目标边缘节的节点带宽阈值时,判定目标边缘节点处于过载状态;运行参数为告警数据,告警数据可以为目标边缘节点是否出现断电等异常情况,边缘调度模块2用于在检测到目标边缘节点出现断电等异常情况时,判定目标边缘节点处于过载状态;运行参数为质量数据,质量数据可以为网络质量,边缘调度模块2可以对目标边缘节点的网络质量进行监控,当目标边缘节点的网络质量小于预设的网络质量阈值时,判定目标边缘节点处于过载状态;运行参数为流量成本相关数据,不同的运营商的流量具有相应的价格,边缘调度模块2可以实时统计目标边缘节点的当前流量成本值,若目标边缘节点的当前流量成本值高于预设的流量成本阈值,判定目标边缘节点处于过载状态。

    在一个例子中,各边缘调度模块2采集的对应的边缘节点3的调度参数还包括:节点健康参数与网络质量参数。中心调度设备1用于根据每个边缘节点3的各备用边缘节点的节点健康参数以及网络质量参数,确定各备用边缘节点的权重值;每个边缘节点3的调度策略还包括边缘节点3的各备用边缘节点的权重值;具体的,边缘调度模块2能够能够统计与其对应的目标边缘节点的节点健康参数与网络质量参数,节点健康参数为目标边缘节点的健康值,边缘调度模块2实时监测目标边缘节点的cpu使用率、内存占用率、磁盘使用率等数据,然后根据这些数据计算目标边缘节点的健康值;网络质量参数为目标边缘节点的网络质量值,边缘调度模块2实时统计目标边缘节点的吞吐量、丢包率、下载数据等指标,并根据统计的指标计算目标边缘节点的网络质量值;对于每个边缘节点3(后称为边缘节点a),中心调度设备1能够根据边缘节点a的健康值与网络质量值,以及所有的边缘节点3的健康值与网络质量值,计算得到边缘节点a的权重值,基于此,能够得到各个边缘节点3的权重值;其中,健康值与网络质量值较好的边缘节点3的权重值较大,健康值与网络质量值较差的边缘节点3的权重值较小。

    边缘调度模块2具体用于根据与目标边缘节点的各备用边缘节点的权重值,将访问请求调度到备用边缘节点。具体的,边缘调度模块2在其对应的目标边缘节点处于过载状态时,对于新接收到的访问请求,依据其目标边缘节点的各备用边缘节点的权重值的大小,从所有的备用边缘节点选择一个备用边缘节点,并将访问请求发送到选择的备用边缘节点。在一个例子中,在目标边缘节点处于过载状态时,边缘调度模块2也可以按照权重值从大到小,采用轮询的方式选择备用边缘节点来依次承载新接收到的访问请求,避免权重值大的备用边缘节点承载过多的访问请求,实现了所有的备用边缘节点负载均衡。

    本实施方式相对于第一实施方式而言,提供了在目标边缘节点处于过载状态时,边缘调度模块对新接收到的访问请求进行调度的一种具体方式;另外,每个边缘节点的调度策略还包括边缘节点的各备用边缘节点的权重值时,边缘调度模块在其对应的目标边缘节点处于过载状态时,对于新接收到的访问请求,依据其目标边缘节点的各备用边缘节点的权重值的大小,从所有的备用边缘节点选择一个备用边缘节点,并将访问请求发送到选择的备用边缘节点,能够优先将访问请求调度到质量较好的备用边缘节点,以为用户提供更好的服务质量。

    本申请第三实施例涉及一种调度系统,本实施方式相对于第二实施方式而言,主要改进之处在于:中心调度设备1能够实时调整各边缘节点3的调度策略。

    本实施例中,请参考图1,边缘调度模块2还用于在目标边缘节点处于过载状态时,发出表征目标边缘节点处于过载状态的通知信息给中心调度设备1。

    中心调度设备1还用于在接收到通知信息时,调整以处于过载状态的目标边缘节点作为备用边缘节点的边缘节点3的调度策略。

    以图3的调度系统为例,边缘节点a的调度策略(图中虚线椭圆所示)中包括8个备用边缘节点,分别为边缘节点b、边缘节点c、边缘节点d、边缘节点e、边缘节点f、边缘节点g、边缘节点h、边缘节点i;边缘节点i的调度策略(图中虚线椭圆所示)中包括8个备用边缘节点,分别为边缘节点a、边缘节点f、边缘节点k、边缘节点h、边缘节点l、边缘节点m、边缘节点n、边缘节点o。

    以边缘节点b处于过载状态为例,边缘调度模块b在判定边缘节点b处于过载状态时,向中心调度设备1发出表征边缘节点b处于过载状态的通知信息给中心调度设备1,边缘节点b为边缘节点a的备用边缘节点,中心调度设备1在接收到该通知信息后,会从边缘节点a的备用边缘节点中剔除边缘节点b,此时边缘节点a的调度策略包括7个备用边缘节点,分别为边缘节点c、边缘节点d、边缘节点e、边缘节点f、边缘节点g、边缘节点h、边缘节点i。

    在一个例子中,多个边缘调度模块2包括对应于不同的边缘节点3的第一边缘调度模块与第二边缘调度模块;第一边缘调度模块对应的边缘节点的调度策略与第二边缘调度模块对应的边缘节点的调度策略中存在相同的备用边缘节点。

    中心调度设备1用于在接收到第一边缘调度模块以及第二边缘调度模块发送的通知信息时,去除第一边缘调度模块或第二边缘调度模块对应的边缘节点3的调度策略中相同的备用边缘节点。

    在图3的调度系统中,边缘节点a的调度策略与边缘节点i的调度策略中重复的备用边缘节点包括:边缘节点f、边缘节点h;在边缘节点a处于过载状态时,边缘调度模块a在接收到新的访问请求时,会将该访问请求调度到边缘节点b、边缘节点c、边缘节点d、边缘节点e、边缘节点f、边缘节点g、边缘节点h、边缘节点i中的一个,同时向中心调度设备1发送的表征边缘节点a处于过载状态的通知信息;此时,若边缘调度模块i检测边缘节点i处于过载状态,边缘调度模块i会将接收到新的访问请求边缘节点a、边缘节点f、边缘节点k、边缘节点h、边缘节点l、边缘节点m、边缘节点n、边缘节点o中一个,同时向中心调度设备1发送的表征边缘节点i处于过载状态的通知信息,中心调度设备1在接收到表征边缘节点i处于过载状态的通知信息时,可以调整边边缘节点a或缘节点i的调度策略,以调整边缘节点a的调度策略为例,此时中心调度设备1会去除边缘节点a的调度策略中的边缘节点f、边缘节点h以及边缘节点i,调整后的边缘节点a的调度策略包括5个备用边缘节点,分别为边缘节点b、边缘节点c、边缘节点d、边缘节点e、边缘节点g,然后将调整后的边缘节点a的调度策略发送到边缘调度模块a;由此,能够避免边缘节点a与边缘节点i中新接收到的访问请求被调度到同一个的备用边缘节点。

    本实施方式相对于第二实施方式而言,中心调度设备能够实时调整各边缘节点的调度策略,便于各边缘节点能够更好的进行访问请求的调度,为用户提供更好的服务质量。

    本申请第四实施例涉及一种调度系统,本实施方式相对于第一实施方式而言,主要改进之处在于:中心调度设备1能够在边缘节点3出现异常时,调整cdn系统的中继设备4中域名与边缘节点3的对应关系。

    本实施方式中,请参考图4,边缘节点3中包括多个服务器组31,每个服务器组31包括至少一台缓存服务器311;需要说明的是,图中以每个边缘节点3包括两个服务器组31,每个服务器组31包括多台缓存服务器311为例进行说明。

    边缘调度模块2还用于在判定目标边缘节点处于未过载状态时,根据各服务器组31中的缓存服务器311的健康值与访问请求对应的内容热度,将访问请求调度到服务器组31。

    具体而言,边缘调度模块2能够实时监测与其对应的目标边缘节点中的各缓存服务器311的cpu使用率、内存占用率、磁盘使用率等数据,然后根据这些数据计算目标边缘节点中的各缓存服务器311的健康值,继而能够根据每个服务器组31中的各缓存服务器311的健康值,评估各服务器组31的健康程度。边缘调度模块2在根据获取的目标边缘节点的运行参数,判定目标边缘节点未处于过载状态时,即目标边缘节点处于正常运行状态;边缘调度模块2预设有目标边缘节点所缓存的内容的内容热度,内容热度例如为高热度、中等热度、低热度等;边缘调度模块2在接收到新的访问请求时,获取该访问请求所请求的内容的内容热度,若该访问请求对应的内容热度为高热度时,说明请求该内容的用户较多,将其调度到健康程度较好的服务器组31,从而能够为用户提供较好的服务;若该访问请求对应的内容热度为低热度时,说明请求该内容的用户较少,将其调度到健康程度一般的服务器组31,由于访问该内容的用户较少,同样能够为用户提供正常的服务。

    在一个例子中,边缘调度模块2还用于在接收到任一边缘调度模块3发送的通知信息时,根据通知信息调整cdn系统的中继设备4中域名与边缘节点3的对应关系。

    具体而言,边缘调度模块2在判定目标目标边缘节点处于过载状态时,向中心调度设备1发送表征目标边缘节点处于过载状态的通知信息,中心调度设备1在接收到该通知信息时,在当前的域名与边缘节点3的对应关系表中,去除处于过载状态的目标边缘节点,并将修改后的域名与边缘节点3的对应关系表发送到cdn系统中的中继设备4,从而中继设备4后续在接收到用户的访问请求后,不会将该访问请求调度到处于过载状态的边缘节点,用户的访问请求能够得到正常的响应,不会影响用户体验。

    本实施方式相对于第一实施方式而言,边缘调度模块在目标边缘节点处于过载状态时,能够向中心调度设备发送表征目标边缘节点处于过载状态的通知信息,即向中心调度设备上报目标边缘节点的过载状态,中心调度设备则能够及时调整cdn系统的中继设备中域名与边缘节点的对应关系,从而中继设备后续在接收到用户的访问请求后,不会将该访问请求调度到处于过载状态的边缘节点,用户的访问请求能够得到正常的响应,不会影响用户体验。

    本发明第五实施例涉及一种cdn系统,cdn系统包括第一至第四实施例中任一项的调度系统。

    在一个例子中,cdn系统中还包括中继设备4,中继设备4(例如为dns服务器)在接受到用户通过客户端5发送的访问请求时,根据中继设备4中预设的域名与ip地址的对应关系,获取当前访问请求中包含的域名所对应的ip地址,每个ip地址对应于一个边缘节点3,从而中继设备4可以基于该ip地址将用户的访问请求路由到对应的边缘节点3。其中,中继设备4中的域名与ip地址的对应关系可以通过中心调度设备1来配置。

    由于第一至第四实施例与本实施例相互对应,因此本实施例可与第一至第四实施例互相配合实施。第一至第四实施例中提到的相关技术细节在本实施例中依然有效,在第一至第四实施例中所能达到的技术效果在本实施例中也同样可以实现,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在第一至第四实施例中。

    本发明第六实施例涉及一种调度方法,应用于调度系统中的边缘调度模块,请参考图1,调度系统包括:中心调度设备1、多个边缘调度模块2以及多个边缘节点3,各边缘调度模块2分别连接于中心调度设备1,边缘调度模块2与边缘节点3一一对应;其中,中心调度设备1可以为包括多个服务器的集群,各边缘调度模块2采用边车模式部署在对应的边缘节点3中,即各边缘调度模块2为部署在对应的边缘节点3上的边车(sidecar),此时中心调度设备1与多个边缘调度模块2形成了服务网格(servicemesh)架构体系。在cdn系统中,中继设备4(例如为dns服务器)在接受到用户通过客户端发送的访问请求时,根据中继设备4中预设的域名与ip地址的对应关系,获取当前访问请求中包含的域名所对应的ip地址,并基于该ip地址将用户的访问请求路由到对应的边缘节点3。

    本实施方式的调度方法的具体流程如图5所示。

    步骤101,向中心调度设备发送对应的边缘节点的调度参数,并接收中心调度设备发送的对应的边缘节点的调度策略;其中,中心调度设备根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略。

    具体而言,中央调度设备1能够在通过部署在各边缘节点3中的边缘调度模块2获取各边缘节点的调度参数,对于每个边缘节点3来说,中央调度设备1能够基于该边缘节点3的调度参数为该边缘节点3设定相应的调度策略,然后将该边缘节点3的调度策略发送给该边缘节点3所对应的边缘调度模块2。

    步骤102,根据目标边缘节点的调度策略,对接收到的访问请求进行调度。

    由于第一实施例与本实施例相互对应,因此本实施例可与第一实施例互相配合实施。第一实施例中提到的相关技术细节在本实施例中依然有效,在第一实施例中所能达到的技术效果在本实施例中也同样可以实现,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在第一实施例中。

    本实施方式相对于现有技术而言,调度系统中的中心调度设备能够根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略,并将各边缘节点的调度策略发送到对应的边缘调度模块,从而各边缘节点所对应的边缘调度模块能够根据目标边缘节点的调度策略,对接收到的访问请求进行调度;即提供了一种分布式的调度系统,中央调度设备预先设定了各边缘节点的调度策略,从而在任一边缘节点处于过载状态时,由其对应的边缘调度模块再次调度实现过载分流处理,确保了调度的准确性,保证了用户的访问请求的高可用性,为用户提供了更高的服务质量。同时,各边缘调度模块能够根据对应的边缘节点的实际运行情况进行调度,无需中心调度设备的干预,减少了数据汇集、交互以及计算的过程,调度的实时性高、准确度较高。

    本发明的第七实施方式涉及一种调度方法,本实施方式相对于第六实施方式来说,主要区别之处在于:提供了根据目标边缘节点的调度策略,对接收到的访问请求进行调度的一种具体实施方式。

    本实施方式的调度方法的具体流程如图6所示。

    步骤201,向中心调度设备发送对应的边缘节点的调度参数,并接收中心调度设备发送的对应的边缘节点的调度策略;其中,中心调度设备根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略。

    202,在目标边缘节点处于过载状态时,将访问请求调度到目标边缘节点的任一备用边缘节点。

    具体而言,每个边缘节点3的调度参数包括:地域信息与链路质量信息;中心调度设备1在接收到各边缘调度模块2发送的对应的边缘节点3的调度参数后,能够根据各边缘节点3的地域信息与链路质量信息,确定每个边缘节点3的备用边缘节点,每个边缘节点3的调度策略包括边缘节点3的备用边缘节点。

    边缘调度模块2能够获取的目标边缘节点的运行参数,来判断目标边缘节点是否处于过载状态,对于新接收到的访问请求,边缘调度模块2在其对应的目标边缘节点处于过载状态时,从所有的备用边缘节点选择一个备用边缘节点,例如随机选择,并将访问请求发送到选择的备用边缘节点。

    在一个例子中,各边缘调度模块2采集的对应的边缘节点3的调度参数还包括:节点健康参数与网络质量参数。中心调度设备1用于根据每个边缘节点3的各备用边缘节点的节点健康参数以及网络质量参数,确定各备用边缘节点的权重值;每个边缘节点3的调度策略还包括边缘节点3的各备用边缘节点的权重值。在目标边缘节点处于过载状态时,边缘调度模块2根据与目标边缘节点的各备用边缘节点的权重值,将访问请求调度到备用边缘节点。

    由于第二实施例与本实施例相互对应,因此本实施例可与第二实施例互相配合实施。第二实施例中提到的相关技术细节在本实施例中依然有效,在第二实施例中所能达到的技术效果在本实施例中也同样可以实现,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在第二实施例中。

    本实施方式相对于第六实施方式而言,提供了根据目标边缘节点的调度策略,对接收到的访问请求进行调度的一种具体实施方式。

    本发明的第八实施方式涉及一种调度方法,本实施方式相对于第七实施方式来说,主要区别之处在于:中心调度设备能够根据边缘调度发送的通知信息,实时调整各边缘节点的调度策略。

    本实施例的调度方法的具体流程如图7所示。

    其中,步骤301与步骤302与步骤201与步骤202大致相同,在此不再赘述,主要不同之处在于,增加了步骤303,具体如下:

    步骤303,在目标边缘节点处于过载状态时,发出表征目标边缘节点处于过载状态的通知信息给中心调度设备,以供中心调度设备在接收到通知信息时,调整以处于过载状态的目标边缘节点作为备用边缘节点的边缘节点的调度策略。

    具体而言,以图3的调度系统为例,边缘节点a的调度策略(图中虚线椭圆所示)中包括8个备用边缘节点,分别为边缘节点b、边缘节点c、边缘节点d、边缘节点e、边缘节点f、边缘节点g、边缘节点h、边缘节点i;边缘节点i的调度策略(图中虚线椭圆所示)中包括8个备用边缘节点,分别为边缘节点a、边缘节点f、边缘节点k、边缘节点h、边缘节点l、边缘节点m、边缘节点n、边缘节点o。

    以边缘节点b处于过载状态为例,边缘调度模块b在判定边缘节点b处于过载状态时,向中心调度设备1发出表征边缘节点b处于过载状态的通知信息给中心调度设备1,边缘节点b为边缘节点a的备用边缘节点,中心调度设备1在接收到该通知信息后,会从边缘节点a的备用边缘节点中剔除边缘节点b,此时边缘节点a的调度策略包括7个备用边缘节点,分别为边缘节点c、边缘节点d、边缘节点e、边缘节点f、边缘节点g、边缘节点h、边缘节点i。

    由于第三实施例与本实施例相互对应,因此本实施例可与第三实施例互相配合实施。第三实施例中提到的相关技术细节在本实施例中依然有效,在第三实施例中所能达到的技术效果在本实施例中也同样可以实现,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在第三实施例中。

    本实施方式相对于现有技术而言,中心调度设备能够实时调整各边缘节点的调度策略,便于各边缘节点能够更好的进行访问请求的调度,为用户提供更好的服务质量。

    本发明的第九实施方式涉及一种调度方法,本实施方式相对于第六实施方式来说,主要区别之处在于:中心调度设备能够在边缘节点出现异常时,调整cdn系统的中继设备中域名与边缘节点的对应关系。

    本实施例中,请参考图4,边缘节点3中包括多个服务器组31,每个服务器组31包括至少一缓存服务器311。

    本实施方式的调度方法的具体流程如图8所示。

    步骤401,向中心调度设备发送对应的边缘节点的调度参数,并接收中心调度设备发送的对应的边缘节点的调度策略;其中,中心调度设备根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略。与第六实施方式中的步骤101大致相同,在此不再赘述。

    步骤402,在目标边缘节点处于过载状态时,根据与目标边缘节点的各备用边缘节点的权重值,将访问请求调度到备用边缘节点。

    步骤403,在目标边缘节点未处于过载状态时,根据各服务器组中的缓存服务器的健康值与访问请求对应的内容热度,将访问请求调度到服务器组。

    由于第四实施例与本实施例相互对应,因此本实施例可与第四实施例互相配合实施。第四实施例中提到的相关技术细节在本实施例中依然有效,在第四实施例中所能达到的技术效果在本实施例中也同样可以实现,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在第四实施例中。

    本实施方式相对于第六实施方式而言,在目标边缘节点未处于过载状态时,根据各服务器组中的缓存服务器的健康值与访问请求对应的内容热度,将访问请求调度到服务器组,从而能够更合理的进行访问请求的调度,提升了用户体验。

    本领域的普通技术人员可以理解,上述各实施方式是实现本发明的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。


    技术特征:

    1.一种调度系统,其特征在于,包括:中心调度设备、多个边缘节点以及多个边缘调度模块,各所述边缘调度模块分别连接于所述中心调度设备,所述边缘调度模块与所述边缘节点一一对应,各所述边缘节点连接于对应的所述边缘调度模块;

    所述中心调度设备用于根据各所述边缘调度模块发送的对应的所述边缘节点的调度参数,确定各所述边缘节点的调度策略,并将各所述边缘节点的调度策略发送到对应的所述边缘调度模块;

    所述边缘调度模块用于根据目标边缘节点的调度策略,对接收到的访问请求进行调度;所述目标边缘节点为与边缘调度模块对应的边缘节点。

    2.根据权利要求1所述的调度系统,其特征在于,所述调度参数包括:地域信息与链路质量信息;

    所述中心调度设备用于根据各所述边缘节点的地域信息与链路质量信息,确定每个所述边缘节点的备用边缘节点;每个所述边缘节点的调度策略包括所述边缘节点的所述备用边缘节点;

    所述边缘调度模块具体用于在所述目标边缘节点处于过载状态时,将所述访问请求调度到所述目标边缘节点的任一备用边缘节点。

    3.根据权利要求2所述的调度系统,其特征在于,所述边缘调度模块还用于在所述目标边缘节点处于过载状态时,发出表征所述目标边缘节点处于过载状态的通知信息给所述中心调度设备;

    所述中心调度设备还用于在接收到所述通知信息时,调整以处于过载状态的所述目标边缘节点作为备用边缘节点的所述边缘节点的调度策略。

    4.根据权利要求2所述的调度系统,其特征在于,所述调度参数还包括:节点健康参数与网络质量参数;

    所述中心调度设备用于根据每个所述边缘节点的各所述备用边缘节点的节点健康参数以及网络质量参数,确定各所述备用边缘节点的权重值;每个所述边缘节点的调度策略还包括所述边缘节点的各所述备用边缘节点的权重值;

    所述边缘调度模块具体用于在所述目标边缘节点处于过载状态时,根据与所述目标边缘节点的各所述备用边缘节点的权重值,将所述访问请求调度到所述备用边缘节点。

    5.根据权利要求3所述的调度系统,其特征在于,所述多个边缘调度模块包括对应于不同的所述边缘节点的第一边缘调度模块与第二边缘调度模块;所述第一边缘调度模块对应的所述边缘节点的调度策略与所述第二边缘调度模块对应的所述边缘节点的调度策略中存在相同的所述备用边缘节点;

    所述中心调度设备还用于在接收到所述第一边缘调度模块以及所述第二边缘调度模块发送的所述通知信息时,去除所述第一边缘调度模块或所述第二边缘调度模块对应的所述边缘节点的调度策略中所述相同的所述备用边缘节点。

    6.根据权利要求1所述的调度系统,其特征在于,所述边缘节点中包括多个服务器组,每个所述服务器组包括至少一台缓存服务器;

    所述边缘调度模块还用于在所述目标边缘节点未处于过载状态时,根据各所述服务器组中的所述缓存服务器的健康值与所述访问请求对应的内容热度,将所述访问请求调度到所述服务器组。

    7.根据权利要求3所述的调度系统,其特征在于,所述中心调度设备用于在接收到任一所述边缘调度模块发送的所述通知信息时,根据所述通知信息调整所述多个边缘节点所属的cdn系统的中继设备中域名与所述边缘节点的对应关系。

    8.根据权利要求1所述的调度系统,其特征在于,所述边缘调度模块以边车模式部署在对应的所述边缘节点中。

    9.一种cdn系统,其特征在于,包括:权利要求1至9中任一项所述的调度系统。

    10.一种调度方法,其特征在于,应用于调度系统中的边缘调度模块,所述调度系统包括中心调度设备、多个边缘节点以及多个所述边缘调度模块,各所述边缘调度模块分别连接于所述中心调度设备,所述边缘调度模块与所述边缘节点一一对应,各所述边缘节点连接于对应的所述边缘调度模块;所述方法包括:

    向所述中心调度设备发送对应的所述边缘节点的调度参数,并接收所述中心调度设备发送的对应的所述边缘节点的调度策略;其中,所述中心调度设备根据各所述边缘调度模块发送的对应的所述边缘节点的调度参数,确定各所述边缘节点的调度策略;

    根据目标边缘节点的调度策略,对接收到的访问请求进行调度。

    11.根据权利要求10所述的调度方法,其特征在于,每个所述边缘节点的调度策略包括所述边缘节点的备用边缘节点;

    所述根据所述目标边缘节点的调度策略,对接收到的访问请求进行调度,包括:

    在所述目标边缘节点处于过载状态时,将所述访问请求调度到所述目标边缘节点的任一备用边缘节点。

    12.根据权利要求11所述的调度方法,其特征在于,所述方法还包括:

    在所述目标边缘节点处于过载状态时,发出表征所述目标边缘节点处于过载状态的通知信息给所述中心调度设备,以供所述中心调度设备在接收到所述通知信息时,调整以处于过载状态的所述目标边缘节点作为备用边缘节点的所述边缘节点的调度策略。

    13.根据权利要求12所述的调度方法,其特征在于,每个所述边缘节点的调度策略还包括所述边缘节点的各所述备用边缘节点的权重值;

    在所述目标边缘节点处于过载状态时,将所述访问请求调度到所述目标边缘节点的任一备用边缘节点,包括:

    在所述目标边缘节点处于过载状态时,根据与所述目标边缘节点的各所述备用边缘节点的权重值,将所述访问请求调度到所述备用边缘节点。

    14.根据权利要求10所述的调度方法,其特征在于,所述边缘节点中包括多个服务器组,每个所述服务器组包括至少一缓存服务器;所述方法还包括:

    在所述目标边缘节点未处于过载状态时,根据各所述服务器组中的所述缓存服务器的健康值与所述访问请求对应的内容热度,将所述访问请求调度到所述服务器组。

    技术总结
    本发明实施例涉及计算机网络技术领域,公开了一种调度系统及方法、CDN系统。中心调度设备、多个边缘节点以及多个边缘调度模块,各边缘调度模块分别连接于中心调度设备,边缘调度模块与边缘节点一一对应,各边缘节点连接于对应的边缘调度模块;中心调度设备用于根据各边缘调度模块发送的对应的边缘节点的调度参数,确定各边缘节点的调度策略,并将各边缘节点的调度策略发送到对应的边缘调度模块;边缘调度模块用于根据目标边缘节点的调度策略,对接收到的访问请求进行调度;目标边缘节点为与边缘调度模块对应的边缘节点。本发明中,减少了数据汇集、交互以及计算的过程,调度的实时性高、准确度较高。

    技术研发人员:范峰
    受保护的技术使用者:网宿科技股份有限公司
    技术研发日:2020.11.02
    技术公布日:2021.03.12

    转载请注明原文地址:https://wp.8miu.com/read-7596.html

    最新回复(0)