修复图像的方法、装置、设备和计算机可读介质与流程

    专利2022-07-08  109


    本公开的实施例涉及图像处理领域,具体涉及修复图像的方法、装置、设备和计算机可读介质。



    背景技术:

    在图像的获取、传输以及保存过程中,由于各种因素(例如可以是电磁干扰),可能导致图像存在图像裂痕。比如,拍摄图像时,被拍摄对象可能本身存在裂痕,导致最终获得的是裂痕图像。而现有的对裂痕图像的修复方法不能很好的修复图像裂痕的细节部分。



    技术实现要素:

    本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。本公开的一些实施例提出了修复图像的方法、装置、设备和计算机可读介质,来解决以上背景技术部分提到的技术问题。

    第一方面,本公开的一些实施例提供了一种修复图像的方法,该方法包括:获取待修复图像,待修复图像为存在图像裂痕的图像;提取图像裂痕的掩膜图像;提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    第二方面,本公开的一些实施例提供了一种修复图像的装置,装置包括:获取单元,被配置成获取待修复图像,待修复图像为存在图像裂痕的图像;第一提取单元,被配置成提取图像裂痕的掩膜图像;第二提取单元,被配置成提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;生成单元,被配置成根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面的修复图像的方法。

    第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现如第一方面的修复图像的方法。

    本公开的上述各个实施例中具有如下有益效果:通过本公开的一些实施例的修复图像的方法,对图像裂痕进行更加细节的修复。具体来说,发明人发现,造成不能很好地对图像裂痕进行细节修复的原因在于:现有的方法不能很好提取裂痕部分的纹理特征。基于此,本公开的一些实施例的修复图像的方法不仅提取了图像裂痕的掩膜图像,还提取了待修复图像的边缘图像。也因为有边缘图像的参与,可以有效的对裂痕图像的裂痕部分进行描述,从而实现了对图像裂痕更加细节的修复。

    附图说明

    结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。

    图1是根据本公开的一些实施例的修复图像的方法的一个应用场景的示意图;

    图2是根据本公开的修复图像的方法的一些实施例的流程图;

    图3是根据本公开的修复图像的方法的另一些实施例的流程图;

    图4是根据本公开的修复图像的方法的又一些实施例的流程图;

    图5是根据本公开的修复图像的装置的一些实施例的结构示意图;

    图6是适于用来实现本公开的一些实施例的电子设备的结构示意图。

    图7是根据梯度值判断像素有效性的示意图。

    具体实施方式

    下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。

    另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。

    需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

    需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。

    本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。

    下面将参考附图并结合实施例来详细说明本公开。

    图1是根据本公开一些实施例的修复图像的方法的一个应用场景的示意图100。

    在图1的应用场景中,首先,电子设备101可以接收待修复图像102。然后,电子设备101对待修复图像102的图像裂痕进行提取得到掩膜图像103。这样,得到了图像裂痕的掩膜图像103。电子设备101对待修复图像102全图的纹理进行提取,得到边缘图像104。这样不仅得到了图像裂痕的纹理,还得到了非图像裂痕的纹理。对比非图像裂痕的纹理使得图像裂痕的纹理的细节更加突出。接下来,根据待修复图像102、掩膜图像103和边缘图像104,得到目标图像105。

    需要说明的是,上述电子设备101可以是硬件,也可以是软件。当电子设备为硬件时,可以实现成多个服务器或终端设备组成的分布式集群,也可以实现成单个服务器或单个终端设备。当电子设备体现为软件时,可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。

    应该理解,图1中的电子设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的电子设备。

    继续参考图2,示出了根据本公开的修复图像的方法的一些实施例的流程200。该修复图像的方法,包括以下步骤:

    步骤201,获取待修复图像。

    在一些实施例中,修复图像的方法的执行主体(例如图1所示的电子设备101)可以通过有线连接方式或者无线连接方式接收待修复图像。其中,上述待修复图像为存在图像裂痕的图像。需要指出的是,上述无线连接方式可以包括但不限于3g/4g/5g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。

    在一些实施例中,上述待修复图像一般是存在图像裂痕的图像。作为示例,上述待修复图像可以通过扫描存在裂痕的照片得到,也可以是被拍摄对象本身存在裂痕的图像,比如拍摄对象是有裂痕的玻璃,或者因年久失修而出现裂痕的路面。

    步骤202,提取图像裂痕的掩膜图像。

    在一些实施例中,掩膜图像可以是由像素0和像素1组成的一个二进制图像。执行主体可以通过指定的数据值、数据范围、感兴趣区和注释文件来得到掩模图像,也可以应用上述选项的任意组合作来得到掩模图像。

    步骤203,提取待修复图像的边缘图像。

    在一些实施例中,边缘图像可以是对待修复图像整体进行纹理提取得到的。边缘图像不仅显示有图像裂痕的纹理,还显示有待修复图像中图像内容的纹理。作为示例,边缘图像的获得可以通过以下方法:lbp方法(localbinarypatterns,局部二值模式),灰度共生矩阵,小波变换等。

    步骤204,根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    在一些实施例中,可以将待修复图像、掩膜图像和边缘图像通过处理图像的工具库来得到目标图像,作为示例,工具库可以是opencv(opensourcecomputervision)库,freeimage库,cimg库等。

    本公开的一些实施例提供的方法,可以对待修复图像进行更加细节的修复。具体来说,发明人发现,造成对图像裂痕不能很好的进行细节修复的原因在于:没有将图像裂痕的纹理精确地提取出来。基于此,本公开的一些实施例的修复图像的方法不仅提取了图像裂痕的掩膜图像,还提取了待修复图像的边缘图像。其中,边缘图像用于表征待修复图像的图像内容的纹理。结合掩膜图像和边缘图像能更加精确地确定裂痕的像素区域,进而对裂痕进行更细节的修复。

    进一步参考图3,其示出了修复图像的方法的另一些实施例的流程300。该修复图像的方法的流程300,包括以下步骤:

    步骤301,获取待修复图像。

    步骤302,提取待修复图像的图像裂痕区域。

    在一些实施例中,可以通过现有的图像处理软件提取待修复图像的图像裂痕区域,也可以通过颜色特征提取图像裂痕区域。

    步骤303,根据图像裂痕区域生成掩膜图像。

    在一些实施例中,掩膜图像可以将图像裂痕区域进行二值处理后得到。可以将提取的图像裂痕区域的像素设为1,将不是图像裂痕区域的像素设为0,这样就得到了掩膜图像。

    步骤304,提取待修复图像的边缘图像。

    步骤305,根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    在一些实施例中,步骤301、304、305的具体实现及其所带来的技术效果,可以参考图2对应的实施例中的步骤201、203、204,在此不再赘述。

    从图3中可以看出,与图2对应的一些实施例的描述相比,图3对应的一些实施例中的修复图像的方法的流程300体现了如何得到掩膜图像。提取到了待修复图像的图像裂痕区域,然后,根据图像裂痕区域生成掩膜图像,使得所生成的掩膜图像能够更加精确地显示图像裂痕的细节。

    进一步参考图4,其示出了修复图像的方法的另一些实施例的流程400。该修复图像的方法的流程400,包括以下步骤:

    步骤401,获取待修复图像。

    步骤402,提取图像裂痕的掩膜图像。

    步骤403,将待修复图像进行噪声去除,得到去噪图像。

    在一些实施例的一些可选的实现方式中,将待修复图像通过高斯滤波器进行噪声去除,得到去噪图像。

    步骤404,确定去噪图像的每个像素点的至少一个梯度参数组。

    在一些实施例中,梯度参数组包括一个梯度值和一个梯度角,梯度值可以表示像素点与邻近像素点之间像素差值的变化大小。梯度角可以表示像素点与邻近像素点之间的角度,梯度值与梯度角一一对应。作为示例,梯度角可以是0度、45度、90度。梯度值可以是23、42、78。梯度参数组可以是[23,0度]、[42,45度]、[78,90度]。

    步骤405,根据至少一个梯度参数组,确定待修复图像的边缘图像。

    在一些实施例的一些可选的实现方式中,对于去噪图像中的像素点,确定该像素点对应的至少一个梯度参数组中的梯度值大于该像素点的梯度值的数量,根据数量确定该像素点的有效性;根据有效性确定边缘图像。如图7所示,去噪图像中的某一像素a的像素值为29,坐标轴以像素a为中心,像素a的梯度参数组可以是[50,0度]、[30,45度]、[20,90度]、[10,135度]、[40,180度]、[10,225度]、[20,270度]、[30,315度]。选择任意两个梯度角,将梯度角对应的梯度值与像素a的像素值作比较,如果像素a的像素值大于这两个梯度角对应的梯度值,则记为1,否则记为0。作为示例,选择梯度角270度和梯度角90度,根据梯度参数组可以得到对应的梯度值为20和20,像素a的像素值29大于梯度角270度和梯度角90度对应的梯度值,所以数量记为1。选择梯度角0度和梯度角135度,根据梯度参数组可以得到对应的梯度值为50和10,像素a的像素值29大于梯度角135度的梯度值,小于梯度角0度对应的梯度值,所以数量记为0。通过多次比较,统计比较结果,最后得到对应像素a的总数量。当上述像素a位于去噪图像的图像角时,邻近像素点的数量可能为3个等。如此,可以对像素a邻近像素的各个方向进行判断,以提高对像素a有效性判断的准确性和有效性。

    在一些实施例的一些可选的实现方式中,根据数量确定该像素点的有效性,包括:响应于数量大于预先设定的阈值,确定该像素点为有效像素,否则,确定该像素点为无效像素。有效像素对应的是图像的纹理。作为示例,预先设定的阈值可以是2,数量可以是4,则确定该像素点为有效像素。作为示例,预先设定的阈值可以是3,数量可以是2,则确定该像素点为无效像素。

    在一些实施例的一些可选的实现方式中,根据有效性确定边缘图像,包括:对有效像素进行激活,得到激活特征矩阵;对无效像素进行抑制,得到抑制特征矩阵;根据激活特征矩阵和抑制特征矩阵构成边缘图像。激活有效像素指的是将有效像素设为1,抑制无效像素是将无效像素设为0。如此,得到的边缘图像可以是由像素值为1和0的像素构成的图像。

    步骤406,将待修复图像、掩膜图像和边缘图像转换为对应的待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵。

    步骤407,基于待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵得到目标图像。

    在一些实施例的一些可选的实现方式中,对待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵进行拼接,得到拼接矩阵;将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像。作为示例,可以将待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵通过增加维度的方式进行拼接。

    在一些实施例的一些可选的实现方式中,目标网络包括特征提取层、下采样层和上采样层;以及将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像,包括:将拼接矩阵输入特征提取层,得到图像特征矩阵,并执行以下步骤:将图像特征矩阵和边缘图像矩阵输入到下采样层,得到对应下采样层的图像特征矩阵;将下采样层的图像特征矩阵输入上采样层,得到目标图像。目标网络可以是生成对抗网络或其他网络。实际中,目标网络包含的下采样层和上采样层可以是多个。作为示例,目标网络可以包括一个特征提取层,两个下采样层和两个上采样层。相应的,将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像的步骤可以是:将拼接矩阵输入特征提取层,得到图像特征矩阵;将图像特征矩阵和边缘图像矩阵输入到第一个下采样层,得到对应第一个下采样层的图像特征矩阵;将对应第一个下采样层的图像特征矩阵和边缘图像矩阵输入到第二个下采样层,得到对应第二个下采样层的图像特征矩阵;将对应第二个下采样层的图像特征矩阵输入第一个上采样层;将第一个上采样层的输出作为第二个上采样层的输入;第二个上采样层的输出即为目标图像。

    在一些实施例中,步骤401、402的具体实现及其所带来的技术效果,可以参考图2对应的实施例中的步骤201、202,在此不再赘述。

    从图4中可以看出,与图3对应的一些实施例的描述相比,图4对应的一些实施例中的修复图像的方法的流程400体现了提取边缘图像的方法和根据待修复图像、掩膜图像和边缘图像,得到目标图像的方法。提取边缘图像的方法是通过将待修复图像进行噪声去除,得到去噪图像,使得图像更加平滑。从而更加精确的得到梯度参数组。根据选择任意两个梯度角,将梯度角对应的梯度值与中心像素的像素值作比较,得到不同角度的比较结果,使得有效像素的判断能加准确。进而能得到更加细节的边缘图像。通过将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像的方法。因为在目标网络的下采样的每一步都将边缘图像矩阵作为输入的一部分,使得裂痕的纹理的细节在下采样的过程中不被丢失,进而得到更加细节修复的目标图像。

    进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种修复图像的装置的一些实施例,这些装置实施例与图2所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。

    如图5所示,一些实施例的修复图像的装置500包括:获取单元501、第一提取单元502、第二提取单元503和生成单元504。其中,获取单元501,被配置成获取待修复图像,待修复图像为存在图像裂痕的图像;第一提取单元502,被配置成提取图像裂痕的掩膜图像;第二提取单元503,被配置成提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;生成单元504,被配置成根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    在一些实施例的可选实现方式中,第一提取单元502进一步被配置成:提取待修复图像的图像裂痕区域;根据图像裂痕区域生成掩膜图像。

    在一些实施例的可选实现方式中,第二提取单元503进一步被配置成:将待修复图像进行噪声去除,得到去噪图像;确定去噪图像的每个像素点的至少一个梯度参数组,梯度参数组包括梯度值和梯度角,梯度值表示像素点与邻近像素点之间像素差值的变化大小,梯度角表示像素点与邻近像素点之间的角度,梯度值与梯度角一一对应;根据至少一个梯度参数组,确定待修复图像的边缘图像。

    在一些实施例的可选实现方式中,第二提取单元503进一步被配置成:将待修复图像通过高斯滤波器进行噪声去除,得到去噪图像。

    在一些实施例的可选实现方式中,第二提取单元503进一步被配置成:对于去噪图像中的像素点,确定该像素点对应的至少一个梯度参数组中的梯度值大于该像素点的梯度值的数量,根据数量确定该像素点的有效性;根据有效性确定边缘图像。

    在一些实施例的可选实现方式中,第二提取单元503进一步被配置成:响应于数量大于预先设定的阈值,确定该像素点为有效像素,否则,确定该像素点为无效像素。

    在一些实施例的可选实现方式中,第二提取单元503进一步被配置成:对有效像素进行激活,得到激活特征矩阵;对无效像素进行抑制,得到抑制特征矩阵;根据激活特征矩阵和抑制特征矩阵构成边缘图像。

    在一些实施例的可选实现方式中,生成单元504进一步被配置成:将待修复图像、掩膜图像和边缘图像转换为对应的待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵;基于待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵得到目标图像。

    在一些实施例的可选实现方式中,生成单元504进一步被配置成:对待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵进行拼接,得到拼接矩阵;将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像。

    在一些实施例的可选实现方式中,目标网络包括特征提取层、下采样层和上采样层,以及生成单元504进一步被配置成:将拼接矩阵输入特征提取层,得到图像特征矩阵,并执行以下步骤:将图像特征矩阵和边缘图像矩阵输入到下采样层,得到对应下采样层的图像特征矩阵;将下采样层的图像特征矩阵输入上采样层,得到目标图像。

    可以理解的是,该装置500中记载的存诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置500及其中包含的单元,在此不再赘述。

    下面参考图6,其示出了适于用来实现本公开的一些实施例的电子设备(例如图1中的服务器或终端设备)600的结构示意图。本公开的一些实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。

    如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(rom)602中的程序或者从存储装置608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。在ram603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、rom602以及ram603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。

    通常,以下装置可以连接至i/o接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。

    特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从rom602被安装。在该计算机程序被处理装置601执行时,执行本公开的一些实施例的方法中限定的上述功能。

    需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述的任意合适的组合。

    在一些实施方式中,客户端、服务器可以利用诸如http(hypertexttransferprotocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“lan”),广域网(“wan”),网际网(例如,互联网)以及端对端网络(例如,adhoc端对端网络),以及任何当前已知或未来研发的网络。

    上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取待修复图像,待修复图像为存在图像裂痕的图像;提取图像裂痕的掩膜图像;提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;根据待修复图像、掩膜图像和边缘图像,得到目标图像。可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

    附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

    描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、第一提取单元、第二提取单元、生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取待修复图像的单元”。

    本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。

    根据本公开的一个或多个实施例,提供了一种修复图像的方法,包括:获取待修复图像,待修复图像为存在图像裂痕的图像;提取图像裂痕的掩膜图像;提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    根据本公开的一个或多个实施例,提取图像裂痕的掩膜图像,包括:提取待修复图像的图像裂痕区域;根据图像裂痕区域生成掩膜图像。

    根据本公开的一个或多个实施例,提取待修复图像的边缘图像,包括:将待修复图像进行噪声去除,得到去噪图像;确定去噪图像的每个像素点的至少一个梯度参数组,梯度参数组包括梯度值和梯度角,梯度值表示像素点与邻近像素点之间像素差值的变化大小,梯度角表示像素点与邻近像素点之间的角度,梯度值与梯度角一一对应;根据至少一个梯度参数组,确定待修复图像的边缘图像。

    根据本公开的一个或多个实施例,将待修复图像进行噪声去除,得到去噪图像,包括:将待修复图像通过高斯滤波器进行噪声去除,得到去噪图像。

    根据本公开的一个或多个实施例,根据至少一个梯度参数组,确定待修复图像的边缘图像,包括:对于去噪图像中的像素点,确定该像素点对应的至少一个梯度参数组中的梯度值大于该像素点的梯度值的数量,根据数量确定该像素点的有效性;根据有效性确定边缘图像。

    根据本公开的一个或多个实施例,根据数量确定该像素点的有效性,包括:响应于数量大于预先设定的阈值,确定该像素点为有效像素,否则,确定该像素点为无效像素。

    根据本公开的一个或多个实施例,根据有效性确定边缘图像,包括:对有效像素进行激活,得到激活特征矩阵;对无效像素进行抑制,得到抑制特征矩阵;根据激活特征矩阵和抑制特征矩阵构成边缘图像。

    根据本公开的一个或多个实施例,根据待修复图像、掩膜图像和边缘图像,得到目标图像,包括:将待修复图像、掩膜图像和边缘图像转换为对应的待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵;基于待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵得到目标图像。

    根据本公开的一个或多个实施例,基于待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵得到目标图像,包括:对待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵进行拼接,得到拼接矩阵;将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像。

    根据本公开的一个或多个实施例,目标网络包括特征提取层、下采样层和上采样层,以及将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像,包括:将拼接矩阵输入特征提取层,得到图像特征矩阵,并执行以下步骤:将图像特征矩阵和边缘图像矩阵输入到下采样层,得到对应下采样层的图像特征矩阵;将下采样层的图像特征矩阵输入上采样层,得到目标图像。

    根据本公开的一个或多个实施例,提供了一种修复图像的装置,包括:获取单元,被配置成获取待修复图像,待修复图像为存在图像裂痕的图像;第一提取单元,被配置成提取图像裂痕的掩膜图像;第二提取单元,被配置成提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;生成单元,被配置成根据待修复图像、掩膜图像和边缘图像,得到目标图像。

    根据本公开的一个或多个实施例,第一提取单元进一步被配置成:提取待修复图像的图像裂痕区域;根据图像裂痕区域生成掩膜图像。

    根据本公开的一个或多个实施例,第二提取单元进一步被配置成:将待修复图像进行噪声去除,得到去噪图像;确定去噪图像的每个像素点的至少一个梯度参数组,梯度参数组包括梯度值和梯度角,梯度值表示像素点与邻近像素点之间像素差值的变化大小,梯度角表示像素点与邻近像素点之间的角度,梯度值与梯度角一一对应;根据至少一个梯度参数组,确定待修复图像的边缘图像。

    根据本公开的一个或多个实施例,第二提取单元进一步被配置成:将待修复图像通过高斯滤波器进行噪声去除,得到去噪图像。

    根据本公开的一个或多个实施例,第二提取单元进一步被配置成:对于去噪图像中的像素点,确定该像素点对应的至少一个梯度参数组中的梯度值大于该像素点的梯度值的数量,根据数量确定该像素点的有效性;根据有效性确定边缘图像。

    根据本公开的一个或多个实施例,第二提取单元进一步被配置成:响应于数量大于预先设定的阈值,确定该像素点为有效像素,否则,确定该像素点为无效像素。

    根据本公开的一个或多个实施例,第二提取单元进一步被配置成:对有效像素进行激活,得到激活特征矩阵;对无效像素进行抑制,得到抑制特征矩阵;根据激活特征矩阵和抑制特征矩阵构成边缘图像。

    根据本公开的一个或多个实施例,生成单元进一步被配置成:将待修复图像、掩膜图像和边缘图像转换为对应的待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵;基于待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵得到目标图像。

    根据本公开的一个或多个实施例,生成单元进一步被配置成:对待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵进行拼接,得到拼接矩阵;将拼接矩阵和边缘图像矩阵输入目标网络中,得到目标图像。

    根据本公开的一个或多个实施例,目标网络包括特征提取层、下采样层和上采样层,以及生成单元进一步被配置成:将拼接矩阵输入特征提取层,得到图像特征矩阵,并执行以下步骤:将图像特征矩阵和边缘图像矩阵输入到下采样层,得到对应下采样层的图像特征矩阵;将下采样层的图像特征矩阵输入上采样层,得到目标图像。

    以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。


    技术特征:

    1.一种修复图像的方法,包括:

    获取待修复图像,所述待修复图像为存在图像裂痕的图像;

    提取所述图像裂痕的掩膜图像;

    提取所述待修复图像的边缘图像,所述边缘图像用于表征所述待修复图像的图像内容的纹理;

    根据所述待修复图像、所述掩膜图像和所述边缘图像,得到目标图像。

    2.根据权利要求1所述的方法,其中,所述提取所述图像裂痕的掩膜图像,包括:

    提取所述待修复图像的图像裂痕区域;

    根据所述图像裂痕区域生成所述掩膜图像。

    3.根据权利要求1所述的方法,其中,所述提取所述待修复图像的边缘图像,包括:

    将所述待修复图像进行噪声去除,得到去噪图像;

    确定所述去噪图像的每个像素点的至少一个梯度参数组,所述梯度参数组包括梯度值和梯度角,所述梯度值表示像素点与邻近像素点之间像素差值的变化大小,所述梯度角表示像素点与邻近像素点之间的角度,所述梯度值与所述梯度角一一对应;

    根据所述至少一个梯度参数组,确定所述待修复图像的边缘图像。

    4.根据权利要求3所述的方法,其中,所述将所述待修复图像进行噪声去除,得到去噪图像,包括:

    将所述待修复图像通过高斯滤波器进行噪声去除,得到所述去噪图像。

    5.根据权利要求3所述的方法,其中,所述根据所述至少一个梯度参数组,确定所述待修复图像的边缘图像,包括:

    对于所述去噪图像中的像素点,确定该像素点对应的所述至少一个梯度参数组中的梯度值大于该像素点的梯度值的数量,根据所述数量确定该像素点的有效性;

    根据所述有效性确定所述边缘图像。

    6.根据权利要求5所述的方法,其中,所述根据所述数量确定该像素点的有效性,包括:

    响应于所述数量大于预先设定的阈值,确定该像素点为有效像素,否则,确定该像素点为无效像素。

    7.根据权利要求6所述的方法,其中,所述根据所述有效性确定所述边缘图像,包括:

    对所述有效像素进行激活,得到激活特征矩阵;

    对所述无效像素进行抑制,得到抑制特征矩阵;

    根据所述激活特征矩阵和所述抑制特征矩阵构成所述边缘图像。

    8.根据权利要求1所述的方法,其中,所述根据所述待修复图像、所述掩膜图像和所述边缘图像,得到目标图像,包括:

    将所述待修复图像、所述掩膜图像和所述边缘图像转换为对应的待修复图像矩阵、掩膜图像矩阵和边缘图像矩阵;

    基于所述待修复图像矩阵、所述掩膜图像矩阵和所述边缘图像矩阵得到目标图像。

    9.根据权利要求8所述的方法,其中,所述基于所述待修复图像矩阵、所述掩膜图像矩阵和所述边缘图像矩阵得到目标图像,包括:

    对所述待修复图像矩阵、所述掩膜图像矩阵和所述边缘图像矩阵进行拼接,得到拼接矩阵;

    将所述拼接矩阵和所述边缘图像矩阵输入目标网络中,得到所述目标图像。

    10.根据权利要求9所述的方法,其中,所述目标网络包括特征提取层、下采样层和上采样层;以及

    所述将所述拼接矩阵和所述边缘图像矩阵输入目标网络中,得到所述目标图像,包括:

    将所述拼接矩阵输入所述特征提取层,得到图像特征矩阵,并执行以下步骤:将所述图像特征矩阵和所述边缘图像矩阵输入到所述下采样层,得到对应所述下采样层的图像特征矩阵;

    将所述下采样层的图像特征矩阵输入所述上采样层,得到所述目标图像。

    11.一种修复图像的装置,包括:

    获取单元,被配置成获取待修复图像,所述待修复图像为存在图像裂痕的图像;

    第一提取单元,被配置成提取所述图像裂痕的掩膜图像;

    第二提取单元,被配置成提取所述待修复图像的边缘图像,所述边缘图像用于表征所述待修复图像的图像内容的纹理;

    生成单元,被配置成根据所述待修复图像、所述掩膜图像和所述边缘图像,得到目标图像。

    12.一种电子设备,包括:

    一个或多个处理器;

    存储装置,其上存储有一个或多个程序,

    当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1至10中任一所述的方法。

    13.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1至10中任一所述的方法。

    技术总结
    本公开的实施例公开了修复图像的方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:获取待修复图像,待修复图像为存在图像裂痕的图像;提取图像裂痕的掩膜图像;提取待修复图像的边缘图像,边缘图像用于表征待修复图像的图像内容的纹理;根据待修复图像、掩膜图像和边缘图像,得到目标图像。该实施方式实现了对图像裂痕更加细节的修复。

    技术研发人员:李华夏
    受保护的技术使用者:北京字跳网络技术有限公司
    技术研发日:2020.12.02
    技术公布日:2021.03.12

    转载请注明原文地址:https://wp.8miu.com/read-16718.html

    最新回复(0)