本发明涉及高精度地图领域,尤其涉及一种基于自动化深度学习的雷达波形识别方法及系统。
背景技术:
雷达波形识别是雷达对抗侦察系统中的关键技术之一,是判断敌方武器威胁情况的重要依据。然而,随着战场电磁环境日益复杂,特别是以lpi(lowprobabilityofintercept,低截获率)雷达等各种新体制雷达装备应用,使得雷达侦察信号变的越来越困难。并且在侦察过程中还极易受到噪声干扰,使得雷达侦察系统在低信噪比下识别能力差、特征参数提取困难、准确性不高。
传统基于pdw(pulsedescriptionwords,脉冲描述字)的分选识别方法由于没有考虑时域、频域和空域之间的相关性,算法的局限性日益突出,已经无法适应现代复杂信号环境,研究者们开始更多地关注雷达信号的脉内特征。早期的雷达信号脉内调制类型相对简单,研究者主要是从时域和频域提取特征,主要方法有时域自相关法、数字中频处理法调制域分析法、谱相关法及相位差分法等。然而随着雷达信号调制方式复杂度的提高及信号环境的日益恶劣,这些方法逐渐暴露出抗噪性能差、适用信号类型有限等问题,已不能满足当前对雷达波形识别的要求。新一代的雷达对抗侦察系统在保留pdw功能的基础上,又相继提出了高阶累积量法、模糊函数法、小波变换法及时频分析法等方法,这些方法主要通过对信号采用某种变换,使得各信号之间特征区分明显,从而达到信号分类识别的目的。但是由于浅层特征的提取适应性较差,这些方法需要手动设计提取特征,其性能很大程度上取决于提取的特征数量和质量,而这些提取的特征通常依赖于研究人员的经验,不一定就是最优方案。越来越多的雷达信号类型使手动提取特征变得越来越困难,当需要识别更多新的雷达信号时,就必须重新设计新的适合的特征提取方法。因此如何能够自动快速找到有利于信号识别的特征,提高泛化性能成为了重点关注的问题。
近年来,由于深度学习可以应用无监督或半监督特征学习算法来实现自动特征提取,并已广泛用于信号处理,包括模式识别、目标检测、语音和图像识别等领域。为了改善传统雷达信号脉内识别算法中人工提取特征的缺点,研究者们开始尝试将深度学习理论引入到了雷达波形识别中,取得了较好的效果。基于深度学习的雷达波形识别技术,可以通过计算机学习数据库中的样本,首先通过时频分析生成雷达波形的时频图像,然后采用深度学习模型自动挖掘深层次特征,实现对不同雷达波形的分类识别。通常深度学习模型具有更好的鲁棒性和泛化能力,提取的潜在特征比依靠人工经验提取的特征更能反映信号的本质信息,特别适用于高维、非线性特征参数分类等问题,这些对于存在于大量噪声中的雷达信号的识别都十分有利。作为深度学习的重要内容,cnn(convolutionalneuralnetwork,卷积神经网络)凭借其自身优势在图像识别领域取得了良好的效果。由于通过时频分析生成的二维数据可以更好地满足cnn对输入数据的要求,因此在特征提取中得到了广泛的应用。然而,在较低信噪比下时频图像容易被噪声污染,严重影响了对雷达波形的识别准确率,一些研究者相继提出了对信号的降噪方法。这些方法主要分为一维和二维的信号处理方法,包括数字式平均、自适应滤波、自相关检测、图像形态学和阈值滤波等。这些降噪算法虽然有一定的效果,但绝大多数降噪算法都难以应用在较低信噪比条件下,有的也只能适用于单一的某种特定信号样式,效果不佳。
由于分类器的设计直接决定了分类结果的优劣,性能优越的分类器即使在输入特征质量较为劣势的情况下依然能够得到较好的分类结果,因此为解决低信噪比下对雷达信号提取特征困难和同时对多种类型雷达波形识别率低的问题,一些研究者也从分类器入手研究问题,试图找到最优的分类模型网络结构,以适应雷达波形数据集。现有技术的一个方案中提出了一种混合分类器,包括两个相对独立的cnn和enn;cnn是分类器的主要单元,而enn为辅助,时频图像特征集作为enn的输入,输出分类结果;在信噪比-2db的条件下,对12种信号的总体识别率达到94.5%。现有技术的另一个方案中提出了一种基于时频图像和人工蜂群优化支持向量机的雷达波形识别方法,分类器为支持向量机,通过人工蜂群算法对其进行优化。现有技术的第三个方案中还提出了一种cnn和基于树形结构的机器学习过程优化技术的分类器;具体实现方法是将预处理后的时频图像发送到cnn,以训练和提取完整的连接层特征,并将该特征发送到tpot分类器,以实现对十二种lpi雷达信号(lfm,frank,costas,bpsk,t1-t4,p1-p4,)的离线训练和在线识别。然而这些分类器的共性问题是只适合于特定的数据类型,不能自行优化设计网络设计,cnn的超参数多靠大量实验,过程繁琐且不一定为最优。同时一些为了去除信号噪声的算法本身也限制了能够区分的信号种类。这些解决方案中很少能对12种以上的信号进行分类,特别是非线性调频信号和复合调制信号。
技术实现要素:
本发明针对现有技术中存在的技术问题,提供一种基于自动化深度学习的雷达波形识别方法及系统,解决现有技术中问题。
本发明解决上述技术问题的技术方案如下:一种基于自动化深度学习的雷达波形识别方法,所述雷达波形识别方法基于用于对所述雷达波形信号进行分类识别的分类器,所述分类器基于改进的darts算法进行目标神经网络结构的搜索;
基于darts算法生成第一搜索网络;
在第一搜索网络上增加分支结构生成第二搜索网络;
所述分类器基于所述第二搜索网络进行目标神经网络结构的搜索。
一种基于自动化深度学习的雷达波形识别装置,所述雷达波形识别装置包括用于对所述雷达波形信号进行分类识别的分类器,
第一搜索网络确定模块,用于根据darts算法确定第一搜索网络;
第二搜索网络确定模块,在所述第一搜索网络上增加分支结构生成第二搜索网络;
所述分类器基于所述第二搜索网络进行目标神经网络结构的搜索。
本发明的有益效果是:针对设计高性能的网结构需要反复试验架构及调整参数,将自动化深度学习引入到雷达波形的识别当中,使用了目前最快的搜索算法darts来设计分类模型;并针对darts搜索结果不稳定、且在架构验证阶段性能下降的等问题,改进搜索结构设计,减小了搜索阶段与验证阶段的结构差异,提出了一种带有分支结构的架构搜索方法,进一步改善了darts的性能。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述第二搜索网络通过对所述cell结构进行扩展处理得到。
进一步,所述扩展处理包括:增大卷积核的大小以及改变膨胀系数。
进一步,进行扩展处理的过程中,对所述第一搜索网络任意一个所述cell结构至少增加一个辅助分类分支,确定该cell结构以及该辅助分类分支与上级和/或下级cell结构之间的连接权重,任一所述cell结构与其增加的至少一个辅助分类分支的连接权重的和为1。
进一步,所述雷达波形识别方法还包括:
在特征提取阶段全部采用所述第二搜索网络的架构,对于卷积组和缩减组采用不同的搜索所得到的卷积结构进行特征提取。
进一步,所述雷达波形识别方法还包括:
在所述第一搜索网络和所述第二搜索网络的搜索期间添加辅助分类器。
采用上述进一步方案的有益效果是:并与之前的研究及相关文献做了对比,通过对比可以发现,提出的引入分支结构的darts对15种雷达波形的识别率在-9db信噪比下为79.2%,对于标准darts和之前的研究有较明显的优势,高出5%左右,证明了自动架构搜索能够得到性能更优的分类网络,且通过分类网络的改进能够提升低信噪比下雷达波形的识别率。
附图说明
图1(a)为cell的最初形态的结构示意图;
图1(b)为cell把节点之间的线全部连接后的形态的结构示意图;
图1(c)为cell训练过程的形态的结构示意图;
图1(d)为表示保留概率最大的操作形成最终的cell的结构示意图;
图2(a)为标准darts的架构搜索的性能曲线示意图;
图2(b)为引入分支结构的darts的架构搜索的性能曲线示意图;
图3为本发明提供的一种基于自动化深度学习的雷达波形识别装置的实施例的结构框图;
图4为本发明实施例提供的一种电子设备的实体结构示意图。
附图中,各标号所代表的部件列表如下:
101、第一搜索网络确定模块,102、第二搜索网络确定模块,201、处理器,202、通信接口,203、存储器,204、通信总线。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
为提高卷积神经网络对不同数据集的适应性和识别效果,最新的研究越来越集中于如何让机器自动地设计性能更优异的网络架构,因此将自动深度学习引入到雷达波形识别当中。
神经架构搜索(neuralarchitecturesearch,nas)是一种自动设计神经网络的技术,能够自动设计出高性能神经网络架构,在某些任务中甚至可以媲美专家水准,也可发现某些之前从未提出过的网络结构,有效降低了神经网络的使用和实现成本。其中以darts为代表的可微分架构搜索算法是目前最快的搜索算法,能够在数个内设计出测试性能优异的神经网络架构。但darts也面临搜索结果不稳定、且在架构验证阶段性能下降的等风险。搜索结构设计上的改进和减小搜索阶段与验证阶段的结构差异可以有效降低上述风险。
darts与网络压缩有关,目的是利用现有的神经网络,减少参数数量及计算成本,同时对模型的预测精度影响最小。与随机搜索、网格搜索和强化学习nas不同的是,不需要训练大量不同的模型,darts可以通过训练与最大体系结构大致相同的单个模型来获得更好的结果。可微分神经架构搜索主要针对卷积网络进行操作,包括每个卷积层、搜索过滤器大小、通道数量和分组卷积。可以用
darts通过训练出一个cell,然后将这些单元构成一个大网络,而超参数layers可以控制有多少个cell相连。cell由输入节点、中间节点、输出节点和边构成。每一个cell有两个输入节点和一个输出节点,对于卷积网络来说,两个输入节点分别是前两层cell的输出;对于循环网络,输入时当前层的输入和前一层的状态。每一个中间节点都有它的前继通过边再求和得到,输出节点由每一个中间节点连接起来。边代表的是操作符,在收敛得到结构的过程中,两节点中间所有的边都会存在并参与训练,最后加权平均,权即是需要训练的东西。希望得到的结果是效果越好的边,那么它的权重值越大。图1(a)-图1(d)所示为darts搜索空间过程示意图,整个过程可以总结为:图1(a)为网络中cell的最初形态,假设一个cell中有4个节点。图1(b)中把节点之间的线全部连接,每两个节点之间是一个混合的候选操作,每个操作都对应一个概率值。图1(c)表示的是训练过程中,求解一个双层优化问题,同时优化混合的概率和权值。图1(d)表示保留概率最大的操作,形成最终的cell。
为了使搜索空间连续,通过softmax对运算的混合权重进行松弛。任意一组节点(i,j)之间的混合运算由条件概率加权表示为:
式中,混合运算的条件概率权重通过|o|维向量α(i,j)进行参数化。通过式(1)的模型,架构搜索的问题可以被简化成一组连续变量的α={α(i,j)}学习问题。用ltrain表示训练集损失,lval表示测试集损失,对运算进行松弛之后,就可以联合学习结构参数α和权重w。与强化学习或进化算法类似,darts将验证集的性能看作是最终的奖励或者拟合优度,darts的目标同样是最小化验证集损失,但使用的是梯度下降法优化。darts中使用了两步法,求一步w,接着求一步α,如此循环直至收敛。由于该过程计算量非常大,因为如果外层的结构参数发生改变,则内层模型权重就必须重新计算。
darts进行架构搜索任务主要可以概括为两步进行。第一步是用darts进行架构搜索,通过验证集损失优化两类计算单元;第二步则是用优化后的计算单元构建网络,从头开始在训练集上训练,并测试其在测试集上的表现。
原始的darts算法在架构搜索阶段为8级cell,不设置分支结构。但在架构验证阶段,cell级数提高到了20(每级cell又设置4个中间节点),对于这样深度相对较大的网络来说,梯度反向传播能够通过所有层的能力就会降低。借鉴inception系列网络设计准则,可以通过在中间增加额外信号的办法解决梯度消失,darts在架构验证时,在2/3级数时(特征图尺寸为8×8时)引入辅助分类器。darts在测试时采用了辅助分支,然而在搜索时并没有使用辅助分支,进一步加剧了搜索与测试之间的结构不一致性(另一种不一致性体现在层数的差异上)。
本发明提供的一种基于自动化深度学习的雷达波形识别方法,提出了一种多分支搜索结构,即在搜索和训练时均采用多分支搜索结构。具体的,本发明提供一种基于自动化深度学习的雷达波形识别装置,包括用于对所述雷达波形信号进行分类识别的分类器,该分类器基于改进的darts算法进行目标神经网络结构的搜索;基于darts算法生成第一搜索网络;在第一搜索网络上增加分支结构生成第二搜索网络;分类器基于第二搜索网络进行目标神经网络结构的搜索。
优选的,第一搜索网络包括多级的cell结构;第二搜索网络通过对cell结构进行扩展处理得到。
优选的,扩展处理包括:增大卷积核的大小以及改变膨胀系数。
优选的,进行扩展处理的过程中,对第一搜索网络任意一个cell结构至少增加一个辅助分类分支,确定该cell结构以及该辅助分类分支与上级和/或下级cell结构之间的连接权重,任一cell结构与其增加至少一个辅助分类分支的连接权重的和为1。
优选的,该雷达波形识别方法还包括:
在特征提取阶段全部采用第二搜索网络的架构,对于卷积组和缩减组采用不同的搜索所得到的卷积结构进行特征提取。
在第一搜索网络和第二搜索网络的搜索期间添加辅助分类器。
考虑由于darts的大尺寸图像特征提取过程中仍然掺杂手工设计的环节,本发明实施例在对于大尺寸数据集处理时摒弃手工设计环节,特征提取阶段全部采用搜索的架构,且为适应大尺寸图像数据集架构搜索对内存的需求,对于卷积组和缩减组采用不同的搜索空间。
此外,还在架构搜索期间直接添加辅助分类器,缩小搜索期间与验证期间的网络结构差距。并尝试了多级辅助分类对分类性能的影响。
本发明实施例提供的一种基于自动化深度学习的雷达波形识别方法,在标准darts在结构搜索与测试、向目标数据集迁移过程中通过两个方向进行改进:一是可以通过减小搜索和测试期间的结构差异;二是可以进一步减少手工设计的网络结构。
针对设计高性能的网结构需要反复试验架构及调整参数,将自动化深度学习引入到雷达波形的识别当中,使用了目前最快的搜索算法可微分架构搜索(darts)来设计分类模型。并针对darts搜索结果不稳定、且在架构验证阶段性能下降的等问题,改进搜索结构设计,减小了搜索阶段与验证阶段的结构差异,提出了一种带有分支结构的架构搜索方法,进一步改善了darts的性能,并与之前的研究及相关文献做了对比。通过对比可以发现,本文提出的引入分支结构的darts对15种雷达波形的识别率在-9db信噪比下为79.2%,对于标准darts和之前的研究有较明显的优势,高出5%左右,证明了自动架构搜索能够得到性能更优的分类网络,且通过分类网络的改进能够提升低信噪比下雷达波形的识别率。
实施例1
本发明提供的实施例1为本发明提供的一种基于自动化深度学习的雷达波形识别方法的具体应用实施例,分别采用标准darts和带分支结构的darts对雷达波形数据集的训练集进行架构搜索,搜索时验证性能超过99%时即可停止搜索,标准darts和引入分支结构的darts的架构搜索的性能曲线如图2(a)和图2(b)所示,从图2(a)和图2(b)中可以看出,对于标准的darts,在引入分支结构后从搜索速度和训练的稳定性都要优于标准的darts,仅用17个epochs即可完成搜索,而标准darts需要在38个epochs完成搜索,且搜索结果十分不稳定。图2(b)中acc1表示分支头1,即在1×1特征图上进行分类;acc8表示分支头8,即在8×8特征图上进行分类。
就整体识别率而言引入分支结构的darts要优于标准darts和我们之前的研究。在-9db信噪比下,本文提出的引入分支结构的darts对15种雷达波形的识别率为79.2%,高于标准darts的74.6%和2cnn3的73.5%,高出5%左右,而标准darts相比于2cnn3在-9db信噪比下识别率提升1%。对于frank、p1、p3、t2及lfm-bpsk信号都呈现和整体识别率一样的趋势,引入分支结构的darts,高于标准darts、2cnn3最低。对于p4和t4,标准darts在低信噪比下有更好的表现。对于t1、t3、lfm信号,利用自动搜索架构的方法都要比手工设计的网络在低信噪比下表现更好。对于bpsk、p2、t1、t4、costas、nlfm信号,三种方法具有相似的性能。总体上看,引入分支结构的darts在低信噪比下能够获得较好的识别性能,进一步证明了方法的有效性。
与之前的研究对比中可以发现,引入分支结构的darts有较大改进,然而对于易混淆的p1与p4信号,可以发现p1信号提升明显,准确率由原84%提升至98.5%,说明对于分类模型网络架构的优化能够提升识别准确率,采用自动化深度学习的自动架构搜索技术能够比手动设计网络设计出更优的网络。然而也可以发现,对于p4信号识别率仍然不太理想,改进效果不明显,准确率仅从69%提升到了71.5%。因此可以说明网络架构并不能解决数据集的所有问题,对于低信噪比下的雷达波形检测,仍然需要采用合适的信号提取方法配合高性能网络来提升识别准确率。
实施例2
本发明提供的实施例2为本发明提供的一种基于自动化深度学习的雷达波形识别系统的实施例,该雷达波形识别装置的实施例包括用于对雷达波形信号进行分类识别的分类器,如图3所示为本发明提供的一种基于自动化深度学习的雷达波形识别系统的实施例的结构框图,由图3可知,该系统包括:第一搜索网络确定模块101,用于根据darts算法确定第一搜索网络。
第二搜索网络确定模块102,在第一搜索网络上增加分支结构生成第二搜索网络。
分类器基于第二搜索网络进行目标神经网络结构的搜索。
图4为本发明实施例提供的一种电子设备的实体结构示意图,如图3所示,该电子设备可以包括:处理器201、通信接口202、存储器203和通信总线204,其中,处理器201,通信接口202,存储器203通过通信总线204完成相互间的通信。处理器201可以调用存储在存储器203上并可在处理器201上运行的计算机程序,以执行上述各实施例提供的基于自动化深度学习的雷达波形识别方法,例如包括:
本发明实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的基于自动化深度学习的雷达波形识别方法,例如包括:
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
1.一种基于自动化深度学习的雷达波形识别方法,所述雷达波形识别方法基于用于对所述雷达波形信号进行分类识别的分类器,其特征在于,所述分类器基于改进的darts算法进行目标神经网络结构的搜索;
基于darts算法生成第一搜索网络;
在第一搜索网络上增加分支结构生成第二搜索网络;
所述分类器基于所述第二搜索网络进行目标神经网络结构的搜索。
2.根据权利要求1所述的雷达波形识别方法,其特征在于,所述第二搜索网络通过对所述cell结构进行扩展处理得到。
3.根据权利要求1所述的雷达波形识别方法,其特征在于,所述扩展处理包括:增大卷积核的大小以及改变膨胀系数。
4.根据权利要求2所述的雷达波形识别方法,其特征在于,进行扩展处理的过程中,对所述第一搜索网络任意一个所述cell结构至少增加一个辅助分类分支,确定该cell结构以及该辅助分类分支与上级和/或下级cell结构之间的连接权重,任一所述cell结构与其增加至少一个辅助分类分支的连接权重的和为1。
5.根据权利要求1所述的雷达波形识别方法,其特征在于,所述雷达波形识别方法还包括:
在特征提取阶段全部采用所述第二搜索网络的架构,对于卷积组和缩减组采用不同的搜索所得到的卷积结构进行特征提取。
6.根据权利要求1所述的雷达波形识别方法,其特征在于,所述雷达波形识别方法还包括:
在所述第一搜索网络和所述第二搜索网络的搜索期间添加辅助分类器。
7.一种基于自动化深度学习的雷达波形识别装置,所述雷达波形识别装置包括用于对所述雷达波形信号进行分类识别的分类器,其特征在于,
第一搜索网络确定模块,用于根据darts算法确定第一搜索网络;
第二搜索网络确定模块,在所述第一搜索网络上增加分支结构生成第二搜索网络;
所述分类器基于所述第二搜索网络进行目标神经网络结构的搜索。
8.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于
执行上述权利要求1-5任一所述的网络结构搜索方法。
9.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-5任一所述的网络结构搜索方法。
技术总结