应对拜占庭节点的联邦学习方法

    专利2026-06-30  16


    本技术涉及人工智能及数据安全,特别是涉及一种应对拜占庭节点的联邦学习方法、装置、计算机设备、存储介质和计算机程序产品。


    背景技术:

    1、随着人工智能技术的发展,出现了机器学习技术,联邦学习是一个机器学习框架,能有效帮助多个机构在满足用户隐私保护、数据安全和相关法规的要求下,进行数据使用和机器学习建模。联邦学习可以有效解决数据孤岛问题,让参与方在不共享数据的基础上联合建模,能从技术上打破数据孤岛,实现人工智能协作。

    2、传统技术中,分布式的机器学习模型通过依次使用每个学习节点的样本数据对机器学习模型进行联邦学习,得到机器学习模型的模型参数。

    3、然而,现有的联邦学习系统通常依赖于中心边缘服务器来执行模型的聚合和分发,这种体系结构存在单点失效的风险。恶意边缘服务器,即拜占庭节点,可以篡改全局模型,以误导整个分布式的机器学习模型的训练,在机器学习模型的处理中,这可能导致严重的安全问题和模型的不稳定性,从而使得机器学习模型的学习准确率低。


    技术实现思路

    1、基于此,有必要针对上述技术问题,提供一种能够提高学习准确率的应对拜占庭节点的联邦学习方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。

    2、第一方面,本技术提供了一种应对拜占庭节点的联邦学习方法。所述方法包括:

    3、将待训练的分类模型传递至目标学习节点,以指示所述目标学习节点根据自身存储的医疗样本数据确定梯度信息;

    4、接收所述目标学习节点反馈的梯度信息,并根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型;所述节点类型包括恶意节点或正常节点;

    5、若所述节点类型为恶意节点,则对所述目标学习节点进行标识,并将所述目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;

    6、若所述节点类型为正常节点,则接收所述目标学习节点基于所述医疗样本数据训练分类模型后所得到的更新的分类模型,将所述目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练;训练完成的所述分类模型用于根据待检测数据进行异常分类。

    7、在其中一个实施例中,所述根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型,包括:

    8、根据所述梯度信息以及第一分类规则,对所述目标学习节点进行分类,得到第一节点类型;若所述第一节点类型为正常节点,则根据所述梯度信息以及第二分类规则,对所述目标学习节点进行分类,得到第二节点类型;若所述第二节点类型为正常节点,则根据所述梯度信息以及第三分类规则,对所述目标学习节点进行分类,得到第三节点类型;若所述第三节点类型为正常节点,则将正常节点作为所述目标学习节点的节点类型。

    9、在其中一个实施例中,所述方法还包括:

    10、若所述第一节点类型为非正常节点,则确定所述目标学习节点的节点类型为恶意节点;若所述第一节点类型为正常节点,但所述第二节点类型为非正常节点,则确定所述目标学习节点的节点类型为恶意节点;若所述第一节点类型为正常节点、所述第二节点类型为正常节点,但所述第三节点类型为非正常节点,则确定所述目标学习节点的节点类型为恶意节点。

    11、在其中一个实施例中,所述根据所述梯度信息以及第一分类规则,对所述目标学习节点进行分类,得到第一节点类型,包括:

    12、根据所述梯度信息,确定所述目标学习节点的平均梯度;若所述平均梯度小于或者等于平均梯度期望,则将所述目标学习节点的第一节点类型确定为正常节点;若所述平均梯度大于所述平均梯度期望,则将所述目标学习节点确定为恶意节点。

    13、在其中一个实施例中,所述将所述目标学习节点的邻接学习节点作为下一目标学习节点,包括:

    14、根据所述目标学习节点跳转各邻接节点的预设概率,构建状态转移矩阵;根据所述状态转移矩阵,随机将所述目标学习节点的邻接学习节点作为下一目标学习节点。

    15、在其中一个实施例中,所述目标学习节点基于所述医疗样本数据训练分类模型的步骤包括:

    16、目标学习节点根据所述医疗样本数据以及分类模型的当前模型参数,计算得到随机梯度;目标学习节点根据所述随机梯度以及所述当前模型参数,确定分类模型的模型参数更新准则;目标学习节点根据所述模型参数更新准则,对所述分类模型的模型参数进行更新。

    17、第二方面,本技术还提供了一种应对拜占庭节点的联邦学习装置。所述装置包括:

    18、模型传递模块,用于将待训练的分类模型传递至目标学习节点,以指示所述目标学习节点根据自身存储的医疗样本数据确定梯度信息;

    19、节点分类模块,用于接收所述目标学习节点反馈的梯度信息,并根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型;所述节点类型包括恶意节点或正常节点;

    20、第一处理模块,用于若所述节点类型为恶意节点,则对所述目标学习节点进行标识,并将所述目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;

    21、第二处理模块,用于若所述节点类型为正常节点,则接收所述目标学习节点基于所述医疗样本数据训练分类模型后所得到的更新的分类模型,将所述目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练;训练完成的的分类模型用于根据待检测数据进行异常分类。

    22、第三方面,本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

    23、将待训练的分类模型传递至目标学习节点,以指示所述目标学习节点根据自身存储的医疗样本数据确定梯度信息;接收所述目标学习节点反馈的梯度信息,并根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型;所述节点类型包括恶意节点或正常节点;若所述节点类型为恶意节点,则对所述目标学习节点进行标识,并将所述目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;若所述节点类型为正常节点,则接收所述目标学习节点基于所述医疗样本数据训练分类模型后所得到的更新的分类模型,将所述目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练;训练完成的所述分类模型用于根据待检测数据进行异常分类。

    24、第四方面,本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:

    25、将待训练的分类模型传递至目标学习节点,以指示所述目标学习节点根据自身存储的医疗样本数据确定梯度信息;接收所述目标学习节点反馈的梯度信息,并根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型;所述节点类型包括恶意节点或正常节点;若所述节点类型为恶意节点,则对所述目标学习节点进行标识,并将所述目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;若所述节点类型为正常节点,则接收所述目标学习节点基于所述医疗样本数据训练分类模型后所得到的更新的分类模型,将所述目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练;训练完成的所述分类模型用于根据待检测数据进行异常分类。

    26、第五方面,本技术还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:

    27、将待训练的分类模型传递至目标学习节点,以指示所述目标学习节点根据自身存储的医疗样本数据确定梯度信息;接收所述目标学习节点反馈的梯度信息,并根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型;所述节点类型包括恶意节点或正常节点;若所述节点类型为恶意节点,则对所述目标学习节点进行标识,并将所述目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;若所述节点类型为正常节点,则接收所述目标学习节点基于所述医疗样本数据训练分类模型后所得到的更新的分类模型,将所述目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练;训练完成的所述分类模型用于根据待检测数据进行异常分类。

    28、上述应对拜占庭节点的联邦学习方法、装置、计算机设备、存储介质和计算机程序产品,通过将待训练的分类模型传递至目标学习节点,以指示目标学习节点根据自身存储的医疗样本数据确定梯度信息;接收目标学习节点反馈的梯度信息,并根据接收的梯度信息对目标学习节点进行分类,得到节点类型;若节点类型为恶意节点,则对目标学习节点进行标识,并将目标学习节点的邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤,当学习节点为恶意节点时,对目标学习节点进行标识,下一次迭代到该学习节点时可以根据此标识直接确定该节点的节点类型,并且对于节点类型为恶意节点的学习节点不进行分类模型的训练,可以避免恶意节点对联分类模型训练的误导,从而提高分类模型学习的准确率;若节点类型为正常节点,则接收目标学习节点基于医疗样本数据训练分类模型后所得到的更新的分类模型,将目标学习节点的邻接学习节点作为下一目标学习节点,并基于更新后的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成分类模型的训练,训练完成的分类模型用于根据待检测数据进行异常分类。本技术在进行应对拜占庭节点的联邦学习时,先对目标学习节点的节点类型进行分类,对于节点类型为恶意节点的学习节点直接跳至下一个邻接节点,只有当节点类型为正常类型时才使用当前节点的医疗样本数据对机器学习模型进行训练,这样可以避免恶意节点,即拜占庭节点,误导整个分类模型的训练,从而提高分类模型学习的准确率。


    技术特征:

    1.一种应对拜占庭节点的联邦学习方法,其特征在于,所述方法包括:

    2.根据权利要求1所述的方法,其特征在于,所述根据接收的梯度信息对所述目标学习节点进行分类,得到节点类型,包括:

    3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

    4.根据权利要求2所述的方法,其特征在于,所述根据所述梯度信息以及第一分类规则,对所述目标学习节点进行分类,得到第一节点类型,包括:

    5.根据权利要求1所述的方法,其特征在于,所述将所述目标学习节点的邻接学习节点作为下一目标学习节点,包括:

    6.根据权利要求1所述的方法,其特征在于,所述目标学习节点基于所述医疗样本数据训练分类模型的步骤包括:

    7.一种应对拜占庭节点的联邦学习装置,其特征在于,所述装置包括:

    8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。

    9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。

    10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。


    技术总结
    本申请涉及一种应对拜占庭节点的联邦学习方法。所述方法包括:将待训练的分类模型传递至目标学习节点,以指示目标学习节点根据医疗样本数据确定梯度信息;接收目标学习节点反馈的梯度信息,并根据梯度信息对目标学习节点进行分类,得到节点类型;若节点类型为恶意节点,则对所述目标学习节点进行标识,并将邻接学习节点作为下一目标学习节点,返回执行将待训练的分类模型传递至目标学习节点的步骤;若节点类型为正常节点,则接收目标学习节点更新的分类模型,将邻接学习节点作为下一目标学习节点,并基于更新的分类模型返回执行将待训练的分类模型传递至目标学习节点的步骤,直至完成所述分类模型的训练。采用本方法能够提高分类模型的学习准确率。

    技术研发人员:刘志中,赵谦,李肯立,肖国庆,段明星,刘楚波,秦云川,唐卓
    受保护的技术使用者:湖南大学
    技术研发日:
    技术公布日:2024/4/29
    转载请注明原文地址:https://wp.8miu.com/read-98487.html

    最新回复(0)