本发明涉及数据处理,尤其涉及一种基于自监督降噪的时序异常检测方法。
背景技术:
1、近年来,自监督学习(self-supervised learning)在计算机视觉领域引起了广泛关注,其通过对图像设计不同的代理任务(pretext task),例如图像块的位置预测、图像着色、图像块拼图、通道或旋转预测等,来学习有用的通用视觉表征。对比学习(contrastivelearning)方法是自监督学习中的一个重要分支,其主要是基于数据增强变换实现正负样本的采样,来学习一种数据视图不变性表征。例如,he等人使用负采样队列构建动态字典,并使用移动平均动量编码器学习“负样本对”的特征表示;chen等人则直接从每个批量的训练数据中采样“负样本对”,进行正负样本对的对比学习。最近,chen等人证明了梯度截停(stop-gradient)可以有效防止表示崩塌,即使没有负样本采样、更大的批次(batch size)和动量编码器,仅使用一个简单的孪生网络,也能够学习到更好的数据表征。尽管这些方法在视觉表征领域取得了显著的成功,但很少有自监督方法研究时间序列数据中的时间依赖建模问题。
2、目前已有的基于时序自监督学习的工作主要包括:sermanet等人提出一种时间对比网络(time-contrastive networks),其提出一种三元组损失(triplet loss)对不同视图的同时刻视频帧进行对比学习,学习视频数据表征;此外,也有方法设计了一些基于视频的时序代理任务,如视频帧顺序预测、视频速度预测等,来捕获视频中的时序信息。
3、不同于这些包含丰富空间特征的视频时序数据,传统的时序数据包括生物信号(biological signal)和工业时序数据等,其中每个时间点的原始特征较少,例如音频(audio)、心电图(ecg)、机械振动信号等,因而,基于视频的代理任务无法直接应用在传统的时序数据领域。近年来,研究人员开始关注传统时序信号领域的代理任务设计。其中包括一些基于三元组损失的和对比损失的度量学习算法,通过采样“时序正负样本对”来学习数据中的时序依赖模式。kiyasseh等人提出了一种基于对比学习的ecg表示学习方法,指导模型对同病例跨时空样本学习相近的表征;yèche等人提出了一种邻域对比学习方法,促使ecg的连续时间段之间表征相近。pascual等人和ravanelli等人设计基于多任务学习(multi-task learning)的方法预测时序信号在时域和频域的不同的时频特征;saeed等人和sarkar等人则提出一种基于变换预测(transformation prediction)的自监督代理任务,通过对不同数据增强的类型进行预测,指导模型学习数据的通用表征。虽然上述方法在时序自监督领域进行了初步尝试,取得了一定的成功,然而,大多数方法没有考虑时序数据中的复杂时空关联结构,而有效地建模数据的时空依赖关联,对于时序表征学习来说十分重要。因此,如何设计有效的自监督代理任务来学习时间序列的时空依赖特征,仍是一个有待解决的开放问题。
技术实现思路
1、针对现有的时序异常检测方法由于未考虑时空依赖特征而存在检测准确率较低的问题,本发明提供一种基于自监督降噪的时序异常检测方法。
2、本发明提供的一种基于自监督降噪的时序异常检测方法,包括:
3、步骤1:获取待测时序信号,根据待测时序信号生成噪声信号并将生成的噪声信号添加到待测时序信号上,得到对应的含噪时序信号;
4、步骤2:采用预设自监督降噪模型对含噪时序信号进行降噪,得到降噪后信号;
5、步骤3:根据所述降噪后信号,采用预设异常评分函数计算所述待测时序信号的异常评分。
6、进一步地,所述预设自监督降噪模型的训练过程包括:
7、收集原始时序信号,所述原始时序信号中不包含噪声信号;
8、对所述原始时序信号进行信号退化,生成包含不同类型噪声信号的多个含噪时序信号;其中,一个含噪时序信号仅包含一种类型噪声信号;
9、构建自监督网络,所述自监督网络包括第一编码器、第二编码器、解码器和分类器;其中,第一编码器和第二编码器共享权重;
10、将含噪时序信号和其对应的噪声信号作为一组训练数据,构建得到多组训练数据,使用多组训练数据对所述自监督网络进行训练得到自监督降噪模型;其中,所述第一编码器和所述第二编码器分别用于对含噪时序信号和噪声信号进行编码得到含噪时序嵌入和噪声嵌入;所述解码器用于对所述含噪时序嵌入进行解码重构得到降噪后时序信号;所述分类器用于对所述噪声嵌入进行分类得到噪声信号的类型。
11、在训练阶段中,引入噪声信号类型分类任务是为了使编码器学习到噪声信号的分布特征,从而辅助降噪过程中解码器能够达到更好的降噪效果。
12、进一步地,所述预设自监督降噪模型的训练过程中,采用的损失函数为:
13、
14、其中,表示总损失,表示对原始时序信号的重构损失,表示对噪声信号进行分类的分类损失。
15、进一步地,所述重构损失采用均方误差损失函数。
16、进一步地,所述分类损失采用交叉熵损失函数。
17、进一步地,步骤3中,选择所述待测时序信号和所述降噪后信号之间的重构损失作为异常评分函数。
18、本发明的有益效果:
19、不同于现有的时序异常检测方法的思路,本发明主要是基于自监督降噪的思想,通过对原始时序信号进行退化处理,采样得到包含不同噪声类型的含噪时序信号,从而模拟不同空间场景下的噪声干扰;然后通过神经网络学习并分类不同的时序信号的异常模式,可以有效学习时序信号中的时空依赖特征,提升了检测准确率和时序异常检测模型的可迁移性。
1.基于自监督降噪的时序异常检测方法,其特征在于,包括:
2.根据权利要求1所述的基于自监督降噪的时序异常检测方法,其特征在于,所述预设自监督降噪模型的训练过程包括:
3.根据权利要求2所述的基于自监督降噪的时序异常检测方法,其特征在于,所述预设自监督降噪模型的训练过程中,采用的损失函数为:
4.根据权利要求3所述的基于自监督降噪的时序异常检测方法,其特征在于,所述重构损失采用均方误差损失函数。
5.根据权利要求3或4所述的基于自监督降噪的时序异常检测方法,其特征在于,所述分类损失采用交叉熵损失函数。
6.根据权利要求3至5任一所述的基于自监督降噪的时序异常检测方法,其特征在于,步骤3中,选择所述待测时序信号和所述降噪后信号之间的重构损失作为异常评分函数。
