基于无人机位置优化的空地协同增量联邦学习方法

    专利2025-12-15  9


    本发明属于空地协同增量联邦学习领域,具体涉及一种基于无人机位置优化的空地协同增量联邦学习方法。


    背景技术:

    1、新一代信息技术的最新进展推动了物联网系统中日益复杂和计算密集型任务的发展。在过去的十年中,数据增长趋势凸显了5g在支持大规模物联网部署方面的不足,为了解决这个问题,人们提出了重点关注普及智能的6g用以满足数以百万计的无线连接设备的高速、低延迟的数据传输。为了扩展6g中的应用场景,网络边缘的大量数据集的连续生成将主要由移动设备驱动。这一激增凸显了将人工智能的前沿带到网络边缘的紧迫性,从而释放了6g网络的全部潜力。因此,边缘智已经成为解决这些挑战的颠覆性范式,因为它提倡将计算从云中心转移到边缘设备。

    2、建立一个高效可靠的ei系统,将智能注入6g网络至关重要。联邦学习作为分布式学习中的一种方法,已经证明了有希望缓解网络拥塞、减少紧急事件响应时间,以及保护用户隐私。然而,联邦学习对传统地面基站的依赖限制了其在紧急情况下的覆盖范围和响应能力。例如,在偏远山区或远离热点地区,地面网络的覆盖漏洞构成了重大挑战。此外,在节日或军事行动等紧急事件期间,在短时间内突然激增的大量请求可能会使地面基站超载,从而导致故障。

    3、现有的研究工作旨在将地面和空中网络与无人机无缝集成,从而产生了空地协同联邦学习的概念。由于灵活性、视距链接和三维机动性,无人机可以作为一个空中基站,提供通信和计算服务,从而克服了地面网络依赖基础设施的局限性。然而,目前的工作主要集中在离线训练已有的数据集上,具体地,在一个动态环境中,用户面临着不断涌现的样本数据。利用在原始数据集上训练的陈旧模型来处理这些样本可能会导致准确性下降。用实时收集的样本进行训练,来更新陈旧的模型是非常必要的。然而,现有的联邦学习算法会平等地对待所有数据,这可能会导致计算资源的浪费,并导致资源有限的用户的收敛速度较慢。因此,根据样本的重要性来选择样本是具有挑战性的。考虑到资源受限的异构用户,基于训练数据量来调整计算频率对于节约计算能量至关重要。类似地,无人机作为模型聚合服务器也需要动态地优化部署策略。


    技术实现思路

    1、本发明针对现有技术中的不足,提供一种基于无人机位置优化的空地协同增量联邦学习方法,通过最小化总用户训练能耗和样本损失的权衡来降低用户总能耗和提高训练效果。

    2、为实现上述目的,本发明采用以下技术方案:

    3、基于无人机位置优化的空地协同增量联邦学习方法,其特征在于,包括以下步骤:

    4、步骤1:基于模型不可知的元学习框架筛选用户实时收集的样本,生成各用户的本地个性化模型,推导出筛选样本的梯度范数上界表示样本的重要性,并将其纳入训练损失中,形成关于训练的优化目标;

    5、步骤2:根据用户cpu频率和本地数据集的大小计算用户在一轮全局训练中的计算能耗,形成关于计算能耗的优化目标;

    6、步骤3:根据用户与无人机之间的空间路径损耗模型计算用户在一轮全局训练的通信能耗,形成关于通信能耗的优化目标;

    7、步骤4:根据本地训练时间约束,最小化总用户训练能耗和样本损失的权衡,所述总用户训练能耗包括总用户的计算能耗和通信能耗,所述样本损失为筛选样本的梯度范数上界,最终获得无人机位置、用户cpu频率和样本筛选的最优解。

    8、为优化上述技术方案,采取的具体措施还包括:

    9、进一步地,所述步骤1中,筛选样本的梯度范数上界ξ(k)的计算过程如下:

    10、

    11、其中,

    12、lf=4l+η1ρub

    13、

    14、

    15、式中,η1∈[0,1/l]为学习率,l为常数,η2∈[0,1]为元学习率,pu为用户u的利普希兹常数,b为信道带宽,k为全局训练轮数,du,1(k)、du,2(k)、du,3(k)是从本地数据集中筛选出的三个互相独立的小批量样本;

    16、和为常数且满足下列关于本地损失函数的不等式:

    17、

    18、

    19、式中,e[·]表示期望,fu(w)是联邦学习中用户u本地损失函数,g(w;m,n)是元学习构造的损失函数,它评估了筛选小批量样本加入训练后的模型在输入m后得到真实标签n的误差,w表示模型参数,表示函数的一阶导数,表示函数的二阶导数;

    20、和为常数且满足下列关于本地损失函数的不等式:

    21、

    22、

    23、式中,为u个用户的本地损失函数的均值。

    24、进一步地,所述步骤2中,计算能耗的计算过程如下:

    25、

    26、式中,nu表示用户u的有效芯片电容系数,cu表示用户u处理单个数据样本所需的cpu周期数,αu是样本筛选变量,du表示用户u的数据集的大小,fu是用户u的cpu频率。

    27、进一步地,所述步骤3中,通信能耗的计算过程如下:

    28、

    29、式中,pu表示用户u的传输功率,u表示用户数量,au表示用户u需要上传的模型参数数据量,b为信道带宽,α0表示每米的信道增益,σ2表示信道噪声功率,h表示无人机悬停高度,ru表示用户u与无人机之间的欧氏距离。

    30、进一步地,所述步骤4具体包括如下子步骤:

    31、步骤4.1:根据本地训练时间约束、样本筛选变量的基本限制以及用户cpu频率和无人机位置的初始可行解,通过凸优化的样本筛选算法优化样本筛选变量;

    32、步骤4.2:根据步骤4.1求得的样本筛选变量的最优解,结合本地训练时间约束和用户cpu频率的基本限制,通过凸优化的频率优化算法优化用户cpu频率;

    33、步骤4.3:根据步骤4.1求得的用户训练样本数据量的最优解和和步骤4.2求得的用户cpu频率的最优解,结合本地训练时间约束,通过逐次凸逼近算法优化无人机的位置部署,并更新无人机位置;

    34、步骤4.4:重复交替迭代步骤4.1到步骤4.3,直至两次迭代的权衡目标相对误差小于预定义的阈值,得到最小化的总用户训练能耗和样本损失的权衡,获得无人机位置、用户cpu频率和样本筛选的最优解。

    35、进一步地,所述步骤4.1中,本地训练时间约束的计算方式如下:

    36、

    37、式中,ζlocal表示本地训练时间上限,cu(k)、αu(k)、du(k)和fu(k)分别表示第k训练轮次时用户u的cpu周期数、样本筛选变量、数据集大小和cpu频率,au表示用户u需要上传的模型参数数据量,α0表示每米的信道增益,pu表示用户u的传输功率,σ2表示信道噪声功率,h表示无人机悬停高度,ru表示用户u与无人机之间的欧氏距离;

    38、样本筛选变量的基本限制如下:

    39、

    40、式中,αu,1(k)、αu,2(k)、αu,a(k)分别对应于du,1(k)、du,2(k)、du,3(k)的样本筛选变量,表示用户总量的集合。

    41、进一步地,所述步骤4.2中,本地训练时间约束的计算方式如下:

    42、

    43、用户cpu频率的基本限制为:

    44、

    45、式中,表示用户u的最小cpu频率,表示用户u的最大cpu频率。

    46、进一步地,所述步骤4.3中,本地训练时间约束的计算方式如下:

    47、cuαu(k)du(k)/fu(k)+auηu≤ζlocal

    48、式中,ζlocal表示本地训练时间上限,cu(k)、αu(k)、du(k)和fu(k)分别表示第k训练轮次时用户u的cpu周期数、样本筛选变量、数据集的大小和cpu频率,au表示用户u需要上传的模型参数数据量;

    49、ηu为引入的辅助变量,且满足以下约束:

    50、

    51、式中,α0表示每米的信道增益,pu表示用户u的传输功率,e表示自然常数,σ2表示信道噪声功率,表示逐次凸逼近算法第r轮迭代时用户u与无人机之间的欧氏距离,ru表示下一轮迭代时用户u与无人机之间的欧氏距离,h表示无人机悬停高度。

    52、进一步地,所述步骤4.3中,更新无人机位置的过程如下:

    53、

    54、式中,p(r+1)表示第r+1轮迭代的无人机位置,p(r)表示第r轮迭代的无人机位置,σ表示更新的步长,表示在逐次凸逼近过程中计算出的无人机位置的近似值。

    55、进一步地,所述步骤4.4中,最小化的总用户训练能耗和样本损失的权衡为:

    56、

    57、式中,α表示样本筛选变量集合,f表示用户频率集合,x,y表示无人机位置集合,分别为横纵坐标;和分别表示通信能耗和计算能耗;ξ(k)表示筛选的样本梯度范数上界,θ∈[0,1]表示权衡参数,u表示用户数量。

    58、本发明的有益效果是:本发明提出了一种基于无人机位置优化的空地协同增量联邦学习方法,基于模型不可知的元学习框架筛选用户实时收集的新样本,生成各用户的本地个性化模型,推导出筛选样本的梯度范数上界表示样本的重要性,根据交替优化的思想将最小化问题分解成样本筛选问题、用户频率优化问题以及无人机位置优化问题,通过迭代优化,最小化能耗和训练损失的权衡。本发明所提出的方法具有高效节能、智能化的特点,大大节省了物联网系统中资源受限的边缘设备的能耗、提高训练效果。


    技术特征:

    1.基于无人机位置优化的空地协同增量联邦学习方法,其特征在于,包括以下步骤:

    2.如权利要求1所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤1中,筛选样本的梯度范数上界ξ(k)的计算过程如下:

    3.如权利要求1所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤2中,计算能耗的计算过程如下:

    4.如权利要求1所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤3中,通信能耗的计算过程如下:

    5.如权利要求2所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4具体包括如下子步骤:

    6.如权利要求5所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4.1中,本地训练时间约束的计算方式如下:

    7.如权利要求6所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4.2中,本地训练时间约束的计算方式如下:

    8.如权利要求5所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4.3中,本地训练时间约束的计算方式如下:

    9.如权利要求5所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4.3中,更新无人机位置的过程如下:

    10.如权利要求5所述的基于无人机位置优化的空地协同增量联邦学习方法,其特征在于:所述步骤4.4中,最小化的总用户训练能耗和样本损失的权衡为:


    技术总结
    本发明提供了一种基于无人机位置优化的空地协同增量联邦学习方法,考虑在一个数据动态变化的环境中,配备有聚合服务器的无人机为远离基站或基站故障条件下的地面用户提供辅助的通信和计算服务,无人机作为空中基站协助用户聚合模型进行增量联邦学习来更新陈旧模型以应对不断涌入的新样本。通过对无人机位置、用户频率与样本筛选的联合优化,实现在满足时延条件和决策变量基本限制下,最小化能耗和训练损失的权衡问题。本发明中的用户为物联网中资源受限边缘设备,本发明所提出的方法具有高效节能、智能化的特点,大大节省了物联网系统中资源受限的边缘设备的能耗,提高训练效果。

    技术研发人员:屈毓锛,董超,经宇骞,张磊,周福辉,吴启晖
    受保护的技术使用者:南京航空航天大学
    技术研发日:
    技术公布日:2024/4/29
    转载请注明原文地址:https://wp.8miu.com/read-93004.html

    最新回复(0)