基于改进的EfficientNet网络的垃圾辨识分类系统的制作方法

    专利2022-07-08  98


    本发明涉及目标检测领域,具体涉及基于改进的efficientnet网络的垃圾辨识分类系统



    背景技术:

    随着经济发展,国民的生活水平有了显著的提高,但随之而来的各种生活垃圾也以惊人的速度增长。大量的生活垃圾若未及时处理,不仅影响城市面貌,也会损害人们的身体健康。在倡导节约、环保型社会的今天,不仅要处理日益增加的垃圾,同时也需要回收垃圾中的可用资源。垃圾分类是一种高效的资源回收方法,也是一项关乎民生和社会可持续发展的社会问题

    目前垃圾分类的问题已经成为了焦点,越来越多的人通过深度学习对垃圾分类进行研究,其中人工神经网路在垃圾分类的这个领域做出来巨大的贡献。前人利用bp神经网络进行垃圾分类,利用改进的bp进行分类,也有利用卷积神经网络进行分类等各种神经网络进行垃圾的分类。但是这些依然存在这一些问题:

    (1)垃圾辨识分类的效果差。各种各样的神经网络用来进行垃圾的分类,这些神经网络在垃圾分类上的应用已经表现的很优秀了。但是最终垃圾分类的效果还不够好,一些分类系统,其分类的精度很低。

    (2)垃圾分类算法的辨识速度慢。由于垃圾的形状以及颜色变化较大,不容易手动提取类别特征,并且数据量很大。从而导致分类算法进行垃圾分类识别时速度很慢,不能满足生产现场嵌入式设备的实时性要求。

    因此,有必要开发一种具有高分类效果,并且运行速度快的垃圾分类系统。



    技术实现要素:

    本发明要解决的技术问题是,提供一种基于改进的efficientnet网络的垃圾辨识分类系统,利用改进的efficientnet网络分类算法,实现了对垃圾分类更加精确,分类速度更快。为解决上述技术问题,本发明采用的技术方案是:基于改进的efficientnet网络的垃圾辨识分类系统,具体包括以下步骤,相关流程图参见图1:

    (1)通过图片采集设备对各种垃圾进行采集,建立数据库;

    (2)将采集的垃圾图片进行图像的预处理,采用灰度处理、中值滤波处理、图像增强等方法对采集来的垃圾图像进行预处理,随后将预处理好的数据集进行划分;

    (3)采用迁移式学习的方法,保持efficientnet网络在imagenet数据集上原有的权值,通过微调训练出新的权值,将训练好的efficientnet网络模型保存;

    (4)利用改进后的efficientnet网络模型对预处理后的数据集进行分类识别,得出分类辨识结果;

    本发明提出的基于改进的efficientnet网络的垃圾辨识分类系统,其中对efficientnet的算法进行一些优化;具体地,是利用带有warmup(预热)的余弦学习率衰减的方式对整个算法的学习率进行调整,常见改变学习率的方式有指数衰减方式、逐步衰减方式、多项式衰减方式。由于刚开始训练时模型的权重(weights)是随机初始化的,此时选择一个较大的学习率,可能会带来模型的不稳定,所以在刚开始训练的时候先使用一个较小的学习率,进行学习率的预热,等模型稳定时再修改为预先设置的学习率进行训练,使得模型收敛速度变得更快,模型效果更佳。其次再利用余弦退火的方式降低学习率,从而有利于提升精度。两种方式的相结合提升系统的识别率和速度。

    所述改进的具体流程为:

    改进主要是改变学习率的计算方式,新的学习率计算方法主要分为两个阶段warmup阶段和余弦退火阶段。

    warmup阶段:

    (1)首先选取一个较小的预热学习率,对网络模型进行训练,训练了一些epochs或者steps(比如4个epoches,10000steps),然后每个step增大一点点,观察训练的结果;

    (2)当训练的模型到达稳定时,将学习率增大到预先设置的学习率;

    余弦退火阶段:将经过warmup阶段的学习率按照余弦函数将学习速率从初始值逐渐降低,观察训

    练结果;

    两阶段结合后,具体的学习率计算如下:

    (1)首先要初始化预热初始学习率、预热基础学习率、epochs(总迭代次数)、warmup_epoch(预热迭代次数)、batch_size(批次大小)、样本数量、预留步数;

    (2)根据公式计算warmup的学习率;

    (3)warmup结束后,根据公式计算余弦退火学习率;

    (4)余弦退火学习率进一步计算并判断,如果预留步数大于0,判断目前步数是否大于预热步数加预留步数,是的话返回上面计算的学习率,不是的话使用warmup之后的基础学习率;

    (5)当预热步数是大于0的时候,如果目前步数小于预热步数的话,那么返回warmup当时的学习率,否则直接返回第二步的余弦退火计算的;

    (6)如果最后当前到达的步数大于总步数,则学习率归为0,否则返回当前的计算出来的学习率;

    附图说明

    下面结合附图和本发明的实施方式进一步详细说明:

    图1为基于改进的efficientnet网络的垃圾辨识分类系统的流程示意图

    图2为改进的efficientnet网络算法的流程图

    图3为带warmup的余弦退火原理图

    图4为余弦学习率衰减与逐步学习率衰减对照图。


    技术特征:

    1.一种基于改进的efficientnet网络的垃圾辨识分类系统,其特征在于,具体包括以下步骤:

    (1)通过图片采集设备对各种垃圾进行采集,建立数据库;

    (2)将采集的垃圾图片进行图像的预处理,采用灰度处理、中值滤波处理、图像增强等方法对采集来的垃圾图像进行预处理,随后将预处理好的数据集进行划分;

    (3)采用迁移式学习的方法,保持efficientnet网络在imagenet数据集上原有的权值,通过微调训练出新的权值,将训练好的efficientnet网络模型保存;

    (4)利用改进后的efficientnet网络模型对预处理后的数据集进行分类识别,得出分类辨识结果。

    2.根据权利要求1所述的基于改进的efficientnet网络的垃圾辨识分类系统,其特征在于,所述步骤(1)中通过相机、摄像头、手机等硬件设备采集垃圾的原始图像,并将这些图片收集来构建图片数据库。

    3.根据权利要求1所述的基于改进的efficientnet网络的垃圾辨识分类系统,其特征在于,所述步骤(2)中原始数据库里图片进行预处理,通过中值滤波,图片增强的方法,将图片中的噪声等无用信息进行剔除,所述图片增强的方法通常采用频域法和空域法。

    4.根据权利要求1所述的基于改进的efficientnet网络的垃圾辨识分类系统,其特征在于,所述步骤(3)中利用迁移式的学习方法将已经在imagenet数据集上训练好的efficientnet网络移植过来,然后利用预处理好的图片来对该网络进行重新训练,从而重新修改该网络的权值,用以满足分类垃圾的条件。

    5.根据权利要求1所述的基于改进的efficientnet网络的垃圾辨识分类系统,其特征在于,所述步骤(4)中在迁移式学习的基础上,对efficientnet网络进行改进,利用改进的efficientnet网络来进行垃圾的分类。其改进的内容主要是对网络的学习率进行改进,通过带有warmup的余弦学习率衰减的方式来进行学习率的修改,从而用以提高efficientnet网络模型的识别精度以及运行的速度。具体地为,是利用带有warmup(预热)的余弦退火学习率调度的方法对整个算法的学习率进行调整。由于刚开始训练时模型的权重(weights)是随机初始化的,此时选择一个较大的学习率,可能会带来模型的不稳定,所以在刚开始训练的时候先使用一个较小的学习率,进行学习率的预热,等模型稳定时再修改为预先设置的学习率进行训练,使得模型收敛速度变得更快,模型效果更佳。其次再利用余弦退火的方式降低学习率,从而有利于提升精度。两种方式的相结合提升系统的识别率和速度。

    技术总结
    本发明要解决的技术问题是,提供一种基于改进的EfficientNet网络的垃圾分类系统,利用改进的EfficientNet网络分类算法,实现了对垃圾分类更加精确,分类速度更快。具体步骤包括:(1)通过图片采集设备对各种垃圾进行采集,建立数据库;(2)将采集的垃圾图片进行图像的预处理,常见的预处理方法有灰度处理、中值滤波处理、图像增强,用来增强图像中感兴趣的特征,抑制图像中不感兴趣的特征,这样能够有效的改善图像的质量。其次再将预处理好的数据进行划分;(3)采用迁移式学习的方法,保持EfficientNet网络在ImageNet数据集上原有的权值,通过微调训练出新的权值,将训练好的EfficientNet网络模型保存;(4)将预处理后的数据集通过改进后的EfficientNet网络模型进行分类识别,得出分类的结果。

    技术研发人员:洪炎;徐涛;苏静明
    受保护的技术使用者:安徽理工大学
    技术研发日:2020.11.19
    技术公布日:2021.03.12

    转载请注明原文地址:https://wp.8miu.com/read-19065.html

    最新回复(0)