本发明涉及图像处理,尤其涉及一种基于视觉基础模型的少样本异常分割方法、系统、终端及计算机可读存储介质。
背景技术:
1、异常分割是指在工业制造领域,从图像中定位和分割出具有缺陷或异常的区域的任务;这个任务对于提高产品的生产质量和效率具有重要意义;现有的异常分割技术主要聚焦于基于无监督的异常检测方法,只使用正常的图像来训练模型,然后将与模型的分布偏差较大的区域视为异常。
2、但是,现有的异常分割技术存在一些问题,例如:无监督的异常检测方法需要收集足够多的正常图像,才能达到满足工业应用的精度要求;在面对新的工业场景时,需要重新训练和部署全新的模型;这些耗时和不经济的解决方案,阻碍了深度学习视觉技术在工业异常检测的落地。
3、因此,现有技术还有待于改进和发展。
技术实现思路
1、本发明的主要目的在于提供一种基于视觉基础模型的少样本异常分割方法、系统、终端及计算机可读存储介质,旨在解决现有技术异常分割技术主要聚焦于基于无监督的异常检测方法,只使用正常的图像来训练模型无法准确识别出各类产品的异常区域,然后将与模型的分布偏差较大的区域视为异常,无法精准检测异常区域的问题。
2、为实现上述目的,本发明提供一种基于视觉基础模型的少样本异常分割方法,所述基于视觉基础模型的少样本异常分割方法包括如下步骤:
3、获取数据采集平台采集的不同类型产品的正常图像和异常图像;
4、将所述正常图像和所述异常图像作为数据样本集,将所述数据样本集输入到少样本异常分割模型进行训练,得到训练好的少样本异常分割模型;
5、获取当前目标产品的正常产品图像和待检测产品图像,将所述正常产品图像和所述待检测产品图像输入到已训练好的所述少样本异常分割模型进行异常区域检测,输出所述待检测产品图像的异常分割结果。
6、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述少样本异常分割模型包括图像编码器、特征聚合器、异常提议器、异常编码器和掩码解码器。
7、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述少样本异常分割模型的训练包括第一阶段训练和第二阶段训练;
8、所述第一阶段训练使用所述少样本异常分割模型中的图像编码器、特征聚合器和异常提议器;
9、所述第二阶段训练使用所述少样本异常分割模型中的图像编码器、特征聚合器、异常提议器、异常编码器和掩码解码器。
10、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述第一阶段训练具体包括:
11、将所述正常图像和所述异常图像输入到所述图像编码器;
12、所述图像编码器根据所述正常图像和所述异常图像分别生成正常图像中间层特征和异常图像中间层特征,并将所述正常图像中间层特征和所述异常图像中间层特征输入到所述特征聚合器;
13、所述特征聚合器将所述正常图像中间层特征和所述异常图像中间层特征在不同尺度上分别进行融合,计算融合后的正常图像中间层特征和异常图像中间层特征的差异,得到差异图,并将所述差异图输入到所述异常提议器;
14、所述异常提议器根据所述差异图得到异常提议图,得到所述第一阶段训练完成后的少样本异常分割模型。
15、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述第二阶段训练具体包括:
16、将所述正常图像和所述异常图像输入到所述图像编码器;
17、所述图像编码器根据所述正常图像和所述异常图像分别生成正常图像中间层特征、异常图像中间层特征和异常图像全局特征,并将所述正常图像中间层特征和所述异常图像中间层特征输入到所述特征聚合器,将所述异常图像全局特征输入到所述掩码解码器;
18、所述特征聚合器将所述正常图像中间层特征和所述异常图像中间层特征在不同尺度上分别进行融合,计算融合后的正常图像中间层特征和异常图像中间层特征的差异,得到差异图,并将所述差异图输入到所述异常提议器;
19、所述异常提议器根据所述差异图得到异常提议图,并将所述异常提议图输入到所述异常编码器;
20、所述异常编码器将所述异常提议图转换为一个异常提示向量,并将所述异常提示向量输入到所述掩码解码器;
21、所述掩码解码器根据所述异常图像全局特征和所述异常提示向量生成异常分割的掩膜输出,得到所述第二阶段训练完成的少样本异常分割模型。
22、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述特征聚合器包括轻量级的特征融合聚合模块;
23、所述特征聚合器将所述正常图像中间层特征和所述异常图像中间层特征在不同尺度上分别进行融合,具体包括:
24、根据所述图像编码器输出的所述正常图像中间层特征和所述异常图像中间层特征,将所述正常图像中间层特征和所述异常图像中间层输入到所述轻量级的特征融合聚合模块;
25、所述轻量级的特征融合聚合模块层级式整合所述正常图像中间层特征和所述异常图像中间层特征,并将所述正常图像中间层特征和所述异常图像中间层特征分别进行聚合与转换。
26、可选地,所述的基于视觉基础模型的少样本异常分割方法,其中,所述计算融合后的正常图像中间层特征和异常图像中间层特征的差异,得到差异图,并将所述差异图输入到所述异常提议器,具体包括:
27、所述轻量级的特征融合聚合模块将所述异常图像中间层特征减去所述正常图像中间层特征,得到差异向量;
28、所述轻量级的特征融合聚合模块根据所述差异向量得到差异图,将所述差异图输入到所述异常提议器;
29、其中,所述差异向量用于衡量异常图像和正常图像之间的特征差异;
30、所述异常提议器根据所述差异图得到异常提议图,并将所述异常提议图输入到所述异常编码器,具体包括:
31、所述异常提议器中的两层wp-conv模块对所述差异图进行处理,得到异常概率图;
32、将所述异常概率图作为异常提议图,并将所述异常提议图输入到所述异常编码器。
33、此外,为实现上述目的,本发明还提供一种基于视觉基础模型的少样本异常分割系统,其中,所述基于视觉基础模型的少样本异常分割系统包括:
34、图像采集模块,用于获取数据采集平台采集的不同类型产品的正常图像和异常图像;
35、图像模型训练模块,用于将所述正常图像和所述异常图像作为数据样本集,将所述数据样本集输入到少样本异常分割模型进行训练,得到训练好的少样本异常分割模型;
36、异常检测模块,用于获取当前目标产品的正常产品图像和待检测产品图像,将所述正常产品图像和所述待检测产品图像输入到已训练好的所述少样本异常分割模型进行异常区域检测,输出所述待检测产品图像的异常分割结果。
37、此外,为实现上述目的,本发明还提供一种终端,其中,所述终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的基于视觉基础模型的少样本异常分割程序,所述基于视觉基础模型的少样本异常分割程序被所述处理器执行时实现如上所述的基于视觉基础模型的少样本异常分割方法的步骤。
38、此外,为实现上述目的,本发明还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储有基于视觉基础模型的少样本异常分割程序,所述基于视觉基础模型的少样本异常分割程序被处理器执行时实现如上所述的基于视觉基础模型的少样本异常分割方法的步骤。
39、本发明中获取数据采集平台采集的不同类型产品的正常图像和异常图像;将所述正常图像和所述异常图像作为数据样本集,将所述数据样本集输入到少样本异常分割模型进行训练,得到训练好的少样本异常分割模型;获取当前目标产品的正常产品图像和待检测产品图像,将所述正常产品图像和所述待检测产品图像输入到已训练好的所述少样本异常分割模型进行异常区域检测,输出所述待检测产品图像的异常分割结果。本发明通过获取正常和异常图像,通过图像编码器生成中间特征,特征聚合器融合中间层特征并计算差异图,异常提议器生成异常提议图,异常编码器将异常提议图转换为异常提示向量,将异常提示向量输入进掩码解码器生成异常分割的掩膜输出,提高产品质量控制的效果,实现对不同类别和场景的异常分割泛化。
1.一种基于视觉基础模型的少样本异常分割方法,其特征在于,所述基于视觉基础模型的少样本异常分割方法包括:
2.根据权利要求1所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述少样本异常分割模型包括图像编码器、特征聚合器、异常提议器、异常编码器和掩码解码器。
3.根据权利要求2所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述少样本异常分割模型的训练包括第一阶段训练和第二阶段训练;
4.根据权利要求3所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述第一阶段训练具体包括:
5.根据权利要求4所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述第二阶段训练具体包括:
6.根据权利要求5所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述特征聚合器包括轻量级的特征融合聚合模块;
7.根据权利要求6所述的基于视觉基础模型的少样本异常分割方法,其特征在于,所述计算融合后的正常图像中间层特征和异常图像中间层特征的差异,得到差异图,并将所述差异图输入到所述异常提议器,具体包括:
8.一种基于视觉基础模型的少样本异常分割系统,其特征在于,所述基于视觉基础模型的少样本异常分割系统包括:
9.一种终端,其特征在于,所述终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的基于视觉基础模型的少样本异常分割程序,所述基于视觉基础模型的少样本异常分割程序被所述处理器执行时实现如权利要求1-7任一项所述的基于视觉基础模型的少样本异常分割方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有基于视觉基础模型的少样本异常分割程序,所述基于视觉基础模型的少样本异常分割程序被处理器执行时实现如权利要求1-7任一项所述的基于视觉基础模型的少样本异常分割方法的步骤。