本发明涉及敏感图像检测技术领域，尤其涉及一种基于对抗干扰防护的敏感图像检测方法、装置和电子设备。
背景技术：
图像分类被广泛应用于信息安全的诸多领域，其中一种典型的应用就是敏感图像检测。敏感图像指的是一些在互联网中传播、并带有一定恶意企图的图像，如武器、暴恐、和恶意欺诈等。敏感图像检测能够识别出进行检测的图像中的内容是否包括武器、暴恐、和恶意欺诈等类别敏感信息，然后过滤掉此类敏感图像，从而保护网络用户的安全与隐私并节约网络资源。然而，敏感信息散布者经常制造各种干扰来降低图像分类模型的性能，从而阻碍敏感图像检测。特别是，一种新型威胁为敏感图像检测带来了更大的挑战，即对抗干扰。通过向常规图像中增加微小但有目的性的对抗干扰，对抗性的图像被制作出来而强迫分类模型输出错误的预测。图1为现有技术提供的对抗干扰生成过程的原理示意图，如图1所示，通过在原始图像中加入干扰因素，导致生成的对抗样本图像在使用传统的敏感图像检测时不能识别其包含的武器类别敏感信息，不能将其分类到武器中，而是错误的分类到盒式磁带类别。这种难以察觉的干扰导致了敏感图像检测系统的失灵，并保持了敏感图像不被破坏以传播敏感信息。对抗干扰甚至能将图像分类的正确率降低到0％，这对敏感图像检测系统和其他对安全敏感的人工智能系统都构成了严重的威胁。
设计有效的防护方法来抵御对抗干扰威胁成为信息安全与人工智能领域的一个重点问题。为了防护对抗干扰，目前大多数研究关注于修改分类模型来提升其鲁棒性，如生成更多的干扰的图像以扩大模型训练的样本集重新训练模型。
但是，当前防护方法存在的不足主要在于：修改模型的防护方法仅服务于特定的模型与场景，而通用性差，且需要大量的计算资源，上述缺陷导致此类方法难以对敏感图像检测系统形成有效的防护。
因此，如何避免现有的基于对抗干扰防护的敏感图像检测方法抗干扰能力差，由于无法适用于各种场景导致的通用性差和由于需要大量的计算资源导致难以对敏感图像检测系统形成有效的防护，仍然是本领域技术人员亟待解决的问题。
技术实现要素：
本发明实施例提供一种基于对抗干扰防护的敏感图像检测方法、装置和电子设备，用以解决现有的基于对抗干扰防护的敏感图像检测方法抗干扰能力差，由于无法适用于各种场景导致的通用性差和由于需要大量的计算资源导致难以对敏感图像检测系统形成有效的防护的问题。
第一方面，本发明实施例提供一种基于对抗干扰防护的敏感图像检测方法，包括：
将待检测图像输入去干扰模型，输出复原后图像；
其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；
将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；
其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
该方法中，所述预设干扰处理为加入高斯噪声。
该方法中，所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
该方法中，所述神经网络的第n层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数的输出ln通过如下公式表示：
其中，n＝2,3,…,n-1，ki为所述神经网络的第i层的卷积核，li-1为所述神经网络的第i-1层的输出，i＝2,3,…,n，bn(.)表示批量归一化函数，relu(.)表示修正线性单元激活函数。
该方法中，修正线性单元激活函数relu(x)＝max(0，x)。
第二方面，本发明实施例提供一种基于对抗干扰防护的敏感图像检测装置，包括：
复原单元，用于将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；
检测单元，用于将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
该装置中，所述预设干扰处理为加入高斯噪声。
该装置中，所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
第三方面，本发明实施例提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如第一方面所提供的基于对抗干扰防护的敏感图像检测方法的步骤。
第四方面，本发明实施例提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面所提供的基于对抗干扰防护的敏感图像检测方法的步骤。
本发明实施例提供的方法、装置和电子设备，将待检测图像输入去干扰模型，输出复原后图像；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。由于单独设置了一个去干扰模型，可以将被干扰的图像复原成接近干扰前的原始图像，然后使用复用的图像再去进行敏感检测就可以排除干扰对敏感检测模型的负影响，保证敏感检测模型的准确率，而且去干扰模型的训练只是基于简单的样本干扰图像和对应的原始图像标签，无需大规模的样本集，也减少了计算量。因此，本发明实施例提供的方法、装置和电子设备，实现了提高抗干扰能力，适用于在敏感图像中加入不同干扰的不同场景和节约了计算资源。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为现有技术提供的对抗干扰生成过程的原理示意图；
图2为本发明实施例提供的基于对抗干扰防护的敏感图像检测方法的流程示意图；
图3为本发明实施例提供的去干扰模型训练网络的结构示意图；
图4为本发明实施例提供的基于对抗干扰防护的敏感图像检测装置的结构示意图；
图5为本发明实施例提供的电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
现有的基于先验框的花粉颗粒检测普遍存在有效性、鲁棒性和准确性均偏低的问题。对此，本发明实施例提供了一种基于先验框线性缩放的花粉检测方法。图2为本发明实施例提供的基于先验框线性缩放的花粉检测方法的流程示意图，如图2所示，该方法包括：
步骤210，将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的。
具体地，首先对待检测图像进行去干扰处理，使得待检测图像复原成接近加入干扰前的原始图像，而这个去干扰处理采用的是经过机器学习训练得到的去干扰模型。所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，且所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的。要训练去干扰模型，首先构建该模型的训练集，训练集包括样本和对应标签，其中，将原始的彩色图像作为标签，在该彩色图像上通过预设干扰处理加入干扰形成对应的样本，而预设干扰处理常用的包括加入椒盐噪声、加入三角噪声和加入高斯白噪声等等，此处不作具体限定。训练集的构建，例如：随机提取1000个随机选择的彩色图像并将每个图像切割成4片构成训练标签集，利用上述4000个切片，加入高斯噪声制作生成4000个随机干扰切片作为训练样本集，然后基于上述4000个样本和其对应的标签训练去干扰模型。
步骤220，将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
具体地，将复原后的图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果，相当于敏感检测模型无需处理图像中可能包含的干扰问题，即敏感检测模型是一个传统的分类模型，识别图像中的物体是否属于武器、暴恐、和恶意欺诈等类别来判断待检测图像是否属于敏感图像，而这个敏感检测模型只需要基于正常无干扰图像样本和对应的敏感结果标签进行训练后即可得到。
本发明实施例提供的方法，将待检测图像输入去干扰模型，输出复原后图像；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。由于单独设置了一个去干扰模型，可以将被干扰的图像复原成接近干扰前的原始图像，然后使用复用的图像再去进行敏感检测就可以排除干扰对敏感检测模型的负影响，保证敏感检测模型的准确率，而且去干扰模型的训练只是基于简单的样本干扰图像和对应的原始图像标签，无需大规模的样本集，也减少了计算量。因此，本发明实施例提供的方法，实现了提高抗干扰能力，适用于在敏感图像中加入不同干扰的不同场景和节约了计算资源。
基于上述实施例，该方法中，所述预设干扰处理为加入高斯噪声。
具体地，此处更进一步地将所述预设干扰处理限定为最常用的加入高斯噪声以降低干扰处理的复杂度。
基于上述任一实施例，该方法中，
所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
具体地，所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层卷积层，而每层卷积层包括m个卷积滤波，其中，m和n均为正整数。图3为本发明实施例提供的去干扰模型训练网络的结构示意图，如图3所示，对于第一层卷积层，包括一个卷积操作，其后再是一个修正线性单元激活函数，在中间层(即第2至n-1层)的卷积层，其中每层都依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，在最后一层(即第n层)的卷积层，只有一个卷积操作。
基于上述任一实施例，该方法中，所述神经网络的第n层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数的输出ln通过如下公式表示：
其中，n＝2,3,…,n-1，ki为所述神经网络的第i层的卷积核，li-1为所述神经网络的第i-1层的输出，i＝2,3,…,n，bn(.)表示批量归一化函数，relu(.)表示修正线性单元激活函数。
具体地，上述式子具体限定了神经网络中每层卷积层的计算方法，此处还要说明的是每层卷积网的输入数据都需要进行一个补零操作以保证数据维度大小不变。
基于上述任一实施例，该方法中，修正线性单元激活函数relu(x)＝max(0，x)。
具体地，此处更进一步地限定了修正线性单元激活函数relu(x)＝max(0，x)，排除了修正线性单元激活函数的其他一些形式。
基于上述任一实施例，本发明实施例提供一种基于对抗干扰防护的敏感图像检测装置，图4为本发明实施例提供的基于对抗干扰防护的敏感图像检测装置的结构示意图，如图4所示，该装置包括复原单元410和检测单元420，其中，
所述复原单元410，用于将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；
所述检测单元420，用于将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
本发明实施例提供的装置，将待检测图像输入去干扰模型，输出复原后图像；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。由于单独设置了一个去干扰模型，可以将被干扰的图像复原成接近干扰前的原始图像，然后使用复用的图像再去进行敏感检测就可以排除干扰对敏感检测模型的负影响，保证敏感检测模型的准确率，而且去干扰模型的训练只是基于简单的样本干扰图像和对应的原始图像标签，无需大规模的样本集，也减少了计算量。因此，本发明实施例提供的装置，实现了提高抗干扰能力，适用于在敏感图像中加入不同干扰的不同场景和节约了计算资源。
基于上述任一实施例，该装置中，
所述预设干扰处理为加入高斯噪声。
基于上述任一实施例，该装置中，
所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
基于上述任一实施例，该装置中，
所述神经网络的第n层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数的输出ln通过如下公式表示：
其中，n＝2,3,…,n-1，ki为所述神经网络的第i层的卷积核，li-1为所述神经网络的第i-1层的输出，i＝2,3,…,n，bn(.)表示批量归一化函数，relu(.)表示修正线性单元激活函数。
基于上述任一实施例，该装置中，
修正线性单元激活函数relu(x)＝max(0，x)。
为了证实上述实施例提供的基于对抗干扰防护的敏感图像检测方法可以对抗干扰对敏感图像检测系统的安全威胁，首先采集若干关于带有武器内容的敏感图像，应用深度神经网络模型resnet50作为分类模型，采用正确率(accuracy)作为分类评价指标。首先通过分类过程选取300张正确分类的敏感图像用于后续验证，即保证模型分类原始图像的正确率为100％。随后利用有代表性的carliniandwagner算法和fgsm算法各生成300张对抗干扰的敏感图像。最终利用resnet50模型分类生成的对抗干扰。为了评估防护方法的效果，采用4种基本图像去干扰算法(均值平滑、中值平滑、高斯平滑和非局部平均降噪)和本发明的复原单元，来转换上述利用两种算法生成的各300张干扰的图像，随后将转换后的图像再次输入分类模型resnet50中。表1为数据转换前后模型分类正确率评估结果，如表1所示，对于carliniandwagner算法生成的对抗干扰，仅仅使用传统的分类模型已完全失效(全部分类为非武器的类别)。对于fgsm算法，模型仅正确分类了7.7％的图像。由此可见对抗干扰对敏感图像检测系统确实是一种严峻的威胁。通过各种方法，与转换前的0％和7.7％相比，每种图像处理方式均使模型分类正确率得到一定提升，但是利用复原单元转换的图像分类正确率最高为79.7％和81.7％，在一定程度上减弱了对抗干扰的威胁。因此，本发明提出的方法是防护敏感图像检测系统及诸多人工智能系统的一种可行有效的方式。
表1数据转换前后模型分类正确率评估结果
图5为本发明实施例提供的电子设备的实体结构示意图，如图5所示，该电子设备可以包括：处理器(processor)501、通信接口(communicationsinterface)502、存储器(memory)503和通信总线504，其中，处理器501，通信接口502，存储器503通过通信总线504完成相互间的通信。处理器501可以调用存储在存储器503上并可在处理器501上运行的计算机程序，以执行上述各实施例提供的基于对抗干扰防护的敏感图像检测方法，例如包括将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
此外，上述的存储器503中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的基于对抗干扰防护的敏感图像检测方法，例如包括将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
以上所描述的系统实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
1.一种基于对抗干扰防护的敏感图像检测方法，其特征在于，包括：
将待检测图像输入去干扰模型，输出复原后图像；
其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；
将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；
其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
2.根据权利要求1所述的基于对抗干扰防护的敏感图像检测方法，其特征在于，所述预设干扰处理为加入高斯噪声。
3.根据权利要求1或2所述的基于对抗干扰防护的敏感图像检测方法，其特征在于，
所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
4.根据权利要求3所述的基于对抗干扰防护的敏感图像检测方法，其特征在于，所述神经网络的第n层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数的输出ln通过如下公式表示：
其中，n＝2,3,…,n-1，ki为所述神经网络的第i层的卷积核，li-1为所述神经网络的第i-1层的输出，i＝2,3,…,n，bn(.)表示批量归一化函数，relu(.)表示修正线性单元激活函数。
5.根据权利要求4所述的基于对抗干扰防护的敏感图像检测方法，其特征在于，修正线性单元激活函数relu(x)＝max(0，x)。
6.一种基于对抗干扰防护的敏感图像检测装置，其特征在于，包括：
复原单元，用于将待检测图像输入去干扰模型，输出复原后图像；其中，所述去干扰模型是基于样本干扰图像和对应的原始图像标签进行训练后得到的，所述样本干扰图像是在对应的原始图像进行预设干扰处理后得到的；
检测单元，用于将所述复原后图像输入敏感检测模型，输出待检测图像是否属于敏感图像结果；其中，所述敏感检测模型是基于样本无干扰图像和对应的敏感结果标签进行训练后得到的。
7.根据权利要求6所述的基于对抗干扰防护的敏感图像检测装置，其特征在于，所述预设干扰处理为加入高斯噪声。
8.根据权利要求6或7所述的基于对抗干扰防护的敏感图像检测装置，其特征在于，
所述去干扰模型训练时神经网络使用cnn结构，所述神经网络包括n层；
其中，所述神经网络的第1层依次包括一个卷积操作和修正线性单元激活函数，所述神经网络的第2至n-1层依次包括一个卷积操作、一个批量归一化操作和修正线性单元激活函数，所述神经网络的第n层包括一个卷积操作，n>2且为整数。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至5中任一项所述的基于对抗干扰防护的敏感图像检测方法的步骤。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至5中任一项所述的基于对抗干扰防护的敏感图像检测方法的步骤。
技术总结