本发明涉及智能管理技术领域,具体涉及一种食材管理方法和装置及食材存储设备。
背景技术:
目前的制冷设备的主要功能为使食材或其他物品保持恒定低温冷态,从而保障食材或其他物品处于保鲜状态。随着人类生活水平的日益提高,制冷设备如冰箱已成为家庭生活中不可或缺的一种家居设备。
目前市场上的智能制冷设备往往带有拍摄功能,用摄像装置拍摄冰箱内的食材,判断食材类别后实现对食材的管理。现有的带有拍摄功能的智能制冷设备主要将摄像装置安装在冷藏室的箱体内或门体上,只能拍摄冷藏室的食材信息,无法获取变温室及冷冻室等低温度间室的食物信息,无法进行食材的自动管理。并且采用使用摄像头对用户拿取食物的过程录像,截取视频流判断食物拿取的方式,存在视频文件较大,数据传输时间长,图像识别时间长,响应慢的问题。
对于一些通过拍照获取食物信息的智能冰箱,无法有效解决冰箱中有食材遮挡的问题,不能有效判断冰箱内食物的拿取;若识别过程中偶然出错的情况时,影响智能冰箱对食物的自动管理功能。
技术实现要素:
本发明提供一种食材管理方法和装置及食材存储设备,用以解决智能冰箱无法对低温度间室的食材管理的问题,并且通过对一次食材存取过程进行多区域拍照,判断食材的进出。
第一方面,本申请提供一种食材存储设备,该设备包括:内部具有存储腔的箱体、设置在所述箱体上的摄像装置、无线传感器和控制器,其中:
所述无线传感器用于检测至少一个预设区域是否有障碍物;
所述摄像装置的摄像范围包括所述至少一个预设区域;
所述控制器用于在所述无线传感器检测到障碍物进入所述至少一个预设区域时,利用所述摄像装置进行多次图片拍摄,以通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
可选的,开启所述摄像装置进行多次图片拍摄后,所述控制器还用于:
将所述多次拍摄的图片通过网络上传到云端服务器及接收服务器返回的食材管理信息,其中由所述服务器通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
可选的,所述箱体包括半包围箱体及与所述半包围箱体配合形成不同间室的多个门体,所述摄像装置以伸缩式方式嵌入在至少一个间室的顶部,且在门体打开时伸出并在门体关闭时隐藏在所述顶部。
可选的,所述箱体包括半包围箱体及与所述半包围箱体配合形成不同间室的多个门体,所述摄像装置以伸缩式方式嵌入在至少一个门体上,且在所述无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时伸出,在检测到门体关闭时隐藏在所述门体内。
可选的,设置在所述半包围箱体及门体连接处的角度传感器,所述角度传感器与控制器连接,用于检测所述门体打开或关闭。
可选的,所述摄像装置包括电机、驱动部件和摄像头,所述控制器还用于通过控制所述电机,通过驱动部件带动所述摄像头进行伸缩。
可选的,所述驱动部件包括由电机带动转动的齿轮、一端与所述齿轮咬合另一端与摄像头固定的齿条;或者
所述驱动部件包括由电机带动转动的蜗轮、一端与所述蜗轮连接另一端与摄像头固定的蜗杆;
所述驱动部件包括由电机带动转动的第一齿轮、分别连接第一齿轮和摄像头的第二齿轮,其中所述第二齿轮以平面内上下旋转方式带动摄像头伸缩。
可选的,所述无线传感器具体用于在检测到有障碍物时,根据无线传感器信号的角度及检测到的障碍物的距离,确定检测到障碍物所在的预设区域。
可选的,所述至少一个预设区域包括如下任多区域:
距离箱体外侧大于第一预设距离且小于第二预设距离的外围区域;
距离箱体外侧小于第二预设距离至距离箱体内侧大于第三预设距离的中间区域;
距离箱体内侧小于第三预设距离并大于第四预设距离的内部区域。
可选的,所述控制器具体用于在所述无线传感器检测到任一预设区域有障碍物时,控制所述摄像装置进行图片拍照。
可选的,还包括设置所述箱体上如下任一或任多部件:
显示交互模块,将存放/取出的食材信息输出显示,并接收对所述食材信息的纠正信息;
语音交互模块,用于将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息。
第二方面,本申请提供一种对食材存储设备中食材进行管理的方法,该方法包括:
获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
可选的,该方法应用于服务器时,获取多次拍摄的图片,包括:
获取食材存储设备在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄后上传的图片;
还包括:将食材管理信息发送给所述食材存储设备。
可选的,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
确定在拍摄时间较早图片中识别到食材信息,在拍摄时间较晚图片中未识别到食材信息时,确定发生食材存放过程,将识别到食材添加到食材信息;
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中识别到食材信息时,确定发生食材取出过程,将识别到食材从食材信息中删除。
可选的,所述利用摄像装置进行多次拍摄的图片,包括:
利用无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,开启摄像装置所拍摄的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的图片。
可选的,所述利用摄像装置进行多次拍摄的图片,包括:
在角度传感器检测到门体打开时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片。
可选的,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
根据所拍摄的图片,确定人手从箱体外向箱体内移动时,确定发生人手进入箱体过程,确定人手从箱体内向箱体外移动时,确定发生人手退出过程;
通过对比人手进入箱体过程中及人手退出箱体过程的食材变化信息,确定存放/取出的食材。
可选的,将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息;或者
将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息。
第三方面,本申请提供一种对食材存储设备中食材进行管理的装置,包括:存储器、处理器;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,包括如下步骤:
获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
第四方面,本申请还提供一种计算机存储介质,其上存储有计算机程序,该程序被处理单元执行时实现第一方面所述方法的步骤。
另外,第二方面至第四方面中任一种实现方式所带来的技术效果可参见第一方面中不同实现方式所带来的技术效果,此处不再赘述。
利用本发明提供的一种食材管理方法和装置及食材存储设备,具有以下有益效果:
本发明提供的一种食材管理方法和装置及食材存储设备,通过将摄像装置以伸缩式方式嵌入在至少一个间室的顶部或门体的方式,结合无线传感器及角度传感器,解决智能冰箱无法对低温度间室的食材管理的问题,并且通过对一次食材存取过程进行多区域拍照,判断食材的进出,实现对智能冰箱内食材的自动管理。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种食材存储设备结构示意图;
图2为本发明实施例提供的一种显示交互模块结构示意图;
图3为本发明实施例提供的一种食材存储设备结构示意图;
图4为本发明实施例提供的一种食材存储设备结构示意图;
图5为本发明实施例提供的一种电机驱动齿轮齿条方式结构示意图;
图6为本发明实施例提供的一种摄像头伸缩装置结构示意图;
图7为本发明实施例提供的一种电机驱动涡轮蜗杆方式结构示意图;
图8为本发明实施例提供的一种电机驱动带动摄像头上下旋转方式结构示意图;
图9为本发明实施例提供的一种摄像头伸缩装置结构示意图;
图10为本发明实施例提供的预设区域结构示意图;
图11为本发明实施例提供的一种食材存储设备结构示意图;
图12为本发明实施例提供的一种对食材存储设备中食材进行管理的方法示意图;
图13为本发明实施例提供的一种对食材存储设备中食材进行管理的方法示意图;
图14为本发明实施例提供的一种对食材存储设备中食材进行管理的方法示意图;
图15为本发明实施例提供的一种对食材存储设备中食材进行管理的装置示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
本发明实施例中术语“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
本发明实施例描述的应用场景是为了更加清楚的说明本发明实施例的技术方案,并不构成对于本发明实施例提供的技术方案的限定,本领域普通技术人员可知,随着新应用场景的出现,本发明实施例提供的技术方案对于类似的技术问题,同样适用。其中,在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
由于智能冰箱冷冻室或变温室等低温度间室的温度较低,摄像装置若安装在冷冻室或变温室会发生凝露、结冰问题,因此目前市场上的智能冰箱主要将摄像装置安装在冰箱冷藏室的箱体内或门体上,只能拍摄冷藏室的食材信息,无法获取变温室及冷冻室等低温度间室的食材信息,无法进行食材的自动管理。
当前智能冰箱通过对智能冰箱内的食物进行拍照的方式来识别冰箱内的食材,无法解决食材的遮挡问题,或者通过摄像装置对存取食材过程录像后截取视频流的方式判断食材存取过程,也存在视频文件较大,数据传输时间长,图像识别时间长,响应慢的缺点。
鉴于上述问题,本发明提出一种食材存储设备,如图1所示,为本发明食材存储设备的一种结构,该设备包括:内部具有存储腔的箱体101、设置在所述箱体上的摄像装置102、无线传感器103和控制器(图中未示出),其中:
无线传感器103用于检测至少一个预设区域是否有障碍物;
上述无线传感器具体用于在检测到有障碍物时,根据无线传感器信号的角度及检测到的障碍物的距离,确定检测到的障碍物的位置信息,并将检测到障碍物的位置信息与预设区域的位置信息进行比较,确定是否在预设区域检测到障碍物。
无线传感器的类型可以是任何根据无线传感器信号的角度及检测到的障碍物的距离检测障碍物的位置信息的传感器,与上述无线传感器功能相同的传感器包括微波距离传感器等都适用于本发明,在此不做限定。
上述障碍物包括有存放/取出食材动作的人体或所述存储腔内的食材,通过检测与所述存放/取出食材的人体或所述存储腔内的食材的距离,结合控制器及摄像装置判断上述存放/取出食材的过程及所述食材的类型;
作为一种可选的实施方式,上述至少一个预设区域包括距离箱体小于设定距离的一个预设区域,在该预设区域检测到障碍物时,说明有人体靠近冰箱,可以触发控制器打开摄像装置。
所述摄像装置102的摄像范围包括所述至少一个预设区域;
上述至少一个预设区域包括距离箱体小于设定距离的一个预设区域,则可以拍摄到人手是否拿食材,从而判断食材的拿放情况;
控制器用于在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次图片拍摄,以通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
本发明实施例提供食材存储设备,通过无线传感器检测到人体靠近箱体时,触发摄像装置在食材存放过程中进行多次拍摄,根据获取的图片中的食材信息变化,能精准的判断出食材的存放和拿取,有效解决现有仅拍摄存储腔内食材容易受遮挡影响不准确的问题,自动进行食品管理;另外该方式相对于通过摄像头录像截取视频流的方式判断食材进出的方式,图片占用资源小,数据传输速率快,能快速进行识别响应的优点。
本发明实施例中通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,可以在食材存储设备上执行,也可以由服务器执行,具体如下:
1)执行主体为服务器
食材存储设备将多次拍摄的图片通过网络上传到云端服务器,由所述服务器通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,并向食材存储设备返回食材管理信息,食材存储设备接收服务器返回的食材管理信息并保存在本地。
2)执行主体为食材存储设备
将多次拍摄的图片保存到本地存储设备,由本地存储设备对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
不管上述根据拍摄图片进行食材管理的执行主体是服务器还是食材存储设备,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
确定在拍摄时间较早图片中识别到食材信息,在拍摄时间较晚图片中未识别到食材信息时,确定发生食材存放过程,将识别到食材添加到食材信息;
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中识别到食材信息时,确定发生食材取出过程,将识别到食材从食材信息中删除。
本发明提出的一种食材存储设备,还包括显示交互模块和语音交互模块;
显示交互模块,将存放/取出的食材信息输出显示,并接收对所述食材信息的纠正信息。
如图2所示,显示交互模块具体为设置在箱体上的显示屏202,图中箱体上还设置有拍摄装置201,食材存储设备与云端服务器203与终端205连接,或者食材存储设备通过局域网204连接和终端205;
上述食材信息,可以通过食材存储设备的显示屏显示进行显示,和/或
通过云端服务器和局域网将上述食材信息传输到终端显示。
所述终端及食材存储设备根据上述食材信息进行食材自动管理;
所述食材信息包括食材种类、保质期等,根据所述食材存放/取出的时间以及所述食材信息实现食材自动管理,包括记录所述食材存储设备内所有食材信息,根据所述存放/取出的时间对食材设置一个状态信息,包括食材是否新鲜,将要腐坏或已经腐坏等状态;
语音交互模块,用于将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息。
食材存储设备将存放/取出的食材信息以语音形式输出,若遇到识别错误的问题时,可语音纠正食材信息,同时保存正确的食材信息进行食材管理。
关于摄像装置如何能够正确拍摄到拿取食材的人手及拍摄图片的时间控制,下面给出各种可能的实施方式。
实施例1
本实施例中食材存储设备,如图3所示,包括内部具有存储腔的箱体301、设置在箱体上的摄像装置302、微波传感器和控制器(图中未示出),箱体包括半包围箱体303及与半包围箱体配合形成不同间室的多个门体304,上述不同间室包括冷藏室、冷冻室和变温室等,摄像装置以伸缩式方式嵌入在至少一个间室的顶部,如图3所示,需要说明的是,如果仅设置在一个间室的顶部,可以选择设置在最上部位置的间室的顶部,可以拍摄到人体向下面任一间室内存放食材时对应的照片,另一种可选的方式在每个间室的顶部设置对应的摄像装置,从而可以更精确地解决拍摄装置凝露、结冰、无法工作在冷冻室等问题。
作为一种可选的实施方式,上述各间室的顶部分别以伸缩式方式嵌入一个摄像装置,如图4所示,包括设置在各间室顶部的摄像装置401,设置在箱体上的显示屏402以及箱体403,其中图4中a为摄像装置置于左上间室顶部,图4中b为摄像装置置于右上间室顶部,图4中c为摄像装置置于左下间室顶部,图4中d为摄像装置置于右下间室顶部;
微波传感器可以置于上述各间室的顶部与摄像装置相邻,或者置于上述门体与半包围箱体连接处,用于检测至少一个预设区域是否有障碍物;
本实施例中摄像装置包括电机、驱动部件和摄像头,控制器还用于通过控制电机,通过驱动部件带动摄像头进行伸缩,其中在控制器控制摄像装置拍摄图片时,摄像头从间室顶部弹出,摄像头朝下进行拍摄,摄像装置关闭时,摄像头嵌入到间室顶部处于隐藏状态。
本实施例中的驱动部件结构,及电机通过驱动部件带动摄像头伸缩可以采用如下任一方式:
1)电机驱动齿轮齿条的方式
如图5所示,驱动部件包括由电机501带动转动的齿轮502、一端与齿轮咬合另一端与摄像头504固定的齿条503,具体地,上述电机为步进电机,其中步进电机的输出轴与齿轮相连,齿条水平放置并与齿轮相啮合,在未弹出状态下齿条的前端与箱体外边缘在同一平面上。
上述方式还包括通信模块,电源线与步进电机相连,电源线连接步进电机,通信模块分别连接控制器和步进电机。
当控制器检测到冰箱门打开时,控制器将信号通过通信模块发送给步进电机,驱动步进电机正向转动,带动齿轮齿条转动,使摄像头弹出,弹出后的摄像装置如图6所示,包括弹出后的摄像装置601;
上述摄像头周围加装缓震装置固定在齿条的前端,保证摄像头在退回过程的稳定性。
2)电机驱动涡轮蜗杆的方式
如图7所示,驱动部件包括由电机701带动转动的蜗轮702、一端与所述蜗轮连接另一端与摄像头704固定的蜗杆703;
具体的,步进电机的输出轴与转动的蜗轮相连,蜗杆水平放置并与蜗轮相啮合,在未弹出状态下蜗杆的前端与箱体外边缘在同一平面上;
上述方式还包括通信模块,电源线与步进电机相连,通信模块一端与步进电机相连,一端与冰箱控制器相连。
当控制器检测到冰箱门打开时,控制器将信号通过通信模块发送给步进电机,驱动步进电机正向转动,带动蜗轮蜗杆传动,使摄像头弹出,弹出后的摄像装置如图6所示。
3)电机驱动带动摄像头上下旋转的方式
如图8所示,驱动部件包括由电机801带动转动的第一齿轮802、分别连接第一齿轮和摄像头804的第二齿轮803,其中所述第二齿轮以平面内上下旋转方式带动摄像头伸缩。
具体的,电机为步进电机,步进电机的输出轴与第一齿轮相连,第一齿轮与第二齿轮相啮合,第二齿轮连接摄像头,摄像头周围包裹缓震装置安装固定在与箱体相同材质的方形的平面上,此时摄像头朝向箱体内部,如图6所示,且与箱体顶端的外边缘在同一平面上。当控制器检测到冰箱门打开时,控制器将信号通过通信模块发送给步进电机,驱动步进电机正向转动,使得拍摄装置向外旋转一定度数,在本发明实施例中,将度数设置为90度,旋转后的摄像装置如图9所示。
本实施例中食材存储设备包括摄像装置以伸缩式方式嵌入在至少一个间室的顶部,或者伸缩式方式嵌入在至少一个门体上两种:
上述至少一个预设区域包括如下任多区域,如图10所示:
距离箱体外侧大于第一预设距离且小于第二预设距离的外围区域1001;
第一预设距离距离箱体最远,与第二预设距离之前的区域称作外围区域,摄像装置安装在各间室顶部时,通过对此区域的障碍物拍照能有效判断食材的存放或拿取状态;
距离箱体外侧小于第一预设距离至距离箱体内侧大于第三预设距离的中间区域1002;
距离箱体内侧小于第三预设距离并大于第四预设距离的内部区域1003;
上述第四预设距离距离冰箱内侧的距离大于第三预设距离,通过对上述距离箱体内侧小于第三预设距离并大于第四预设距离的内部区域拍照,能够更准确判断出存放/拿取食材的种类。
图10还包括伸出的摄像装置1004。
所述摄像装置包括电机、驱动部件和摄像头;
上述摄像装置可以以伸缩式方式嵌入在至少一个间室的顶部,或者伸缩式方式嵌入在至少一个门体上;
所述箱体包括半包围箱体及与所述半包围箱体配合形成不同间室的多个门体,所述摄像装置以伸缩式方式嵌入在至少一个间室的顶部,且在拍照时伸出并在关闭时隐藏在所述顶部;
当摄像装置以伸缩式方式嵌入在至少一个间室的顶部时,所述摄像装置的摄像范围包括如上所述的外围区域、中间区域和内部区域;或
当所述摄像装置以伸缩式方式嵌入在至少一个门体上,且在拍照时伸出并在关闭时隐藏在所述门体内;
上面讲述了摄像头伸出的几种方式,下面介绍当冰箱门关闭时,伸出的摄像头缩回到箱体顶部的方式:
门体与半包围箱体连接处设置的角度传感器,当所述门体打开时,所述门体与所述半包围箱体之间的角度不同,角度传感器会输出不同的电压值,该电压值通过通信模块发送至控制器,门体与半包围箱体之间的角度变小时,所述电压会变小,即电压变小的过程可以判定为冰箱门正在关闭,当电压减小到预设值时,控制器判断冰箱门关闭;
控制器判断冰箱门关闭时,控制器将信号通过通信模块发送给步进电机,驱动步进电机反向转动,将上述三种方式中伸出的摄像头缩回到所述间室的顶部;
由于门体关闭的时间较短,步进电机反转的转速较大,驱动摄像头缩回的时间很短,为保证摄像头缩回过程的稳定性,在摄像头周围加装固定及缓震装置;
上述摄像装置的前端设置有平滑的斜角,用于当门体关闭较快时,摄像装置与门体以平行面接触,摄像装置能够平滑的缩回到所述间室的顶部。
摄像装置以伸缩式方式嵌入在至少一个间室的顶部时,所述摄像装置的摄像范围包括如上所述的外围区域、中间区域和内部区域,包括:
当控制器在预设范围中检测到障碍物时,开启所述摄像装置进行多次图片拍摄,以通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
实施例二
本发明中摄像装置以伸缩式方式嵌入在至少一个门体上。
本实施例中智能冰箱包含冷藏室、冷冻室和变温室等,摄像装置嵌入在所述各个不同的间室上,摄像头弹出的角度不同,如图11所示将摄像装置嵌入在冷藏室门体上,及摄像头旋转伸出的智能存储设备结构,包括摄像装置1101、显示屏1102以及箱体1103,其中图11中a为显示装置隐藏状态,图11中b为摄像装置伸出状态;
角度传感器与上述实施例的位置及作用相同;
无线传感器置于上述门体上与所述摄像装置相邻,用于检测至少一个预设区域是否有障碍物;
所述控制器还用于通过控制所述电机,通过驱动部件带动所述摄像头进行伸缩;
所述摄像头伸出的方式与上述实施例中电机驱动带动摄像头上下旋转的方式相同,在此不做赘述;
所示摄像头缩回的方式如下,当控制器通过角度传感器检测到门体关闭后,控制摄像装置对预设区域拍摄图片,并在拍摄图片完成后,控制器控制步进电机反转,将摄像头缩回到门体上。
摄像装置以伸缩式方式嵌入在至少一个门体上时,所述摄像装置的摄像范围仅为上述外围区域,当控制器在预设范围中检测到障碍物时,开启所述摄像装置进行多次图片拍摄,以通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
对拍摄的图片进行食材识别的过程的方式及显示交互模块和语音交互模块与上述实施例相同,在此不做赘述。
以上对本发明提出的一种食材存储设备进行说明,以下对本发明提出的一种对食材存储设备中食材进行管理的方法进行说明,如图12所示,包括:
s1201,获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
若所述摄像设备以伸缩式方式嵌入在至少一个间室的顶部,拍摄区域外围区域、中间区域和内部区域;
角度传感器检测到门体打开时,控制器控制摄像头伸出,并在所述无线传感器检测到所述箱体的外围区域/中间区域/内部区域中至少两个区域有障碍物时,分别控制所述摄像装置进行拍摄的图片。
若所述摄像设备以伸缩式方式嵌入在至少一个门体上,拍摄范围仅为外围区域;
当无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,开启摄像装置进行拍摄图片;
在角度传感器检测到门体关闭后,开启摄像装置进行拍摄图片。
s1202,对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
该方法应用于服务器时,获取食材存储设备通过无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,开启摄像装置进行多次拍摄后上传的图片,并将食材管理信息发送给所述食材存储设备。
根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
根据所述无线传感器与人手的角度及位置信息,确定人手从箱体外向箱体内移动时,确定发生人手进入箱体过程,确定人手从箱体内向箱体外移动时,确定发生人手退出过程;
通过对比人手进入箱体过程中及人手退出箱体过程的食材变化信息,确定存放/取出的食材,包括:
确定在拍摄时间较早图片中识别到食材信息,在拍摄时间较晚图片中未识别到食材信息时,确定发生食材存放过程,将识别到食材添加到食材信息;
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中识别到食材信息时,确定发生食材取出过程,将识别到食材从食材信息中删除;
确定在拍摄时间较早图片中识别到食材信息为a,在拍摄时间较晚图片中也识别到食材信息为b,则将拍摄时间较早图片中识别到的食材信息与拍摄时间较晚图片中识别到的食材信息进行对比,若b中的食材信息不包含a中的食材信息,则将a中的食材添加到食材信息中;若a中的食材信息不包含b中的食材信息,则将b中的食材添加到食材信息中。
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中也未识别到食材信息时,确定未发生食材存放/拿取过程,不改变所述智能存储设备保存的食材信息。
将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息,并将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息,和/或
将存放/取出的食材信息通过云端服务器或局域网上传到终端,终端进行食材自动管理及食材信息显示。
以下对本发明提出的一种对食材存储设备中食材进行管理的方法进行具体介绍:
实施例三
本发明中摄像装置以伸缩式方式嵌入在至少一个间室顶部,如图13所示:
s1301,角度传感器检测门体打开时,控制器控制所述摄像装置伸出;
s1302,无线传感器检测到障碍物进入距离箱体小于设定距离至少一个预设区域时,控制器控制摄像装置开启进行多次拍摄图片;
s1303,将拍摄的图片上传到云端服务器或保存到本地存储设备,对拍摄的图片进行食材识别;
对拍摄的图片进行食材识别如下:
1)当无线传感器检测障碍物由外围区域向中间区域及内部区域变化时,控制器判定障碍物由外向冰箱内移动,在外围区域拍摄的图像信息a中含有食材信息,当无线传感器检测障碍物由内部区域或中间区域向外围区域变化时,控制器判断障碍物由冰箱内部向外部移动,若此时拍摄的图像信息b中没有食材信息,则控制器可以判断此时为向冰箱内存放图像信息a中的食材,且控制器可以自动根据食材信息更新食材管理系统中的食材管理信息,并将该信息及时更新到冰箱显示模块及终端应用程序的食材管理系统,方便用户及时查询食材状态;
2)当无线传感器检测障碍物由外围区域向中间区域及内部区域变化时,控制器判定障碍物由外向冰箱内移动,在外围区域拍摄的图像信息a中不含有食材信息,当无线传感器检测障碍物由内部区域或中间区域向外围区域变化时,控制器判断障碍物由冰箱内部向外部移动,若此时拍摄的图像信息b中含有食材信息,则控制器可以判断此时为向冰箱内拿取图像信息b中的食材,且控制器可以自动根据食材信息更新食材管理系统中的食材管理信息,并将该信息及时更新到冰箱显示模块及终端应用程序的食材管理系统,方便用户及时查询食材状态;
3)当无线传感器检测障碍物由外围区域向中间区域及内部区域变化时,控制器判定障碍物由外向冰箱内移动,在外围区域拍摄的图像信息a中含有食材信息,当无线传感器检测障碍物由内部区域或中间区域向外围区域变化时,控制器判断障碍物由冰箱内部向外部移动,若此时拍摄的图像信息b中也含有食材信息,则系统会对比图像信息a和图像信息b中的食材信息,若图像信息a中的食材信息不包含在b中,则判断为存放食材的过程,将a中的食材信息添加到食材管理系统中;若图像信息b中的食材信息不包含在a中,则判断为拿取食材的过程,该食材信息会从食材管理系统中删除。同时食材管理系统将该信息及时更新到冰箱显示模块及终端应用程序的食材管理系统,方便用户及时查询食材状态;
4)当无线传感器检测障碍物由外围区域向中间区域及内部区域变化时,控制器判定障碍物由外向冰箱内移动,在外围区域拍摄的图像信息a中不含有食材信息,当无线传感器检测障碍物由内部区域或中间区域向外围区域变化时,控制器判断障碍物由冰箱内部向外部移动,若此时拍摄的图像信息b中也不含有食材信息,则控制器可以判断此次过程中没有食材的存取和拿放。
s1304,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取的过程;
将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息;
将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息。
s1305,将所述食材存取过程信息发送给所述食材存储设备进行管理。
实施例四
本发明中摄像装置以伸缩式方式嵌入在至少一个门体上,如图14所示:
s1401,无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,控制器控制所述摄像装置伸出;
s1402,摄像设备伸出后控制器控制所述摄像设备拍摄图片;
s1403,角度传感器检测门体关闭时,控制器控制所述摄像装置拍摄图片,并在图片拍摄完成后将拍摄装置缩回门体;
s1404,将拍摄的图片上传到云端服务器或保存到本地存储设备,对拍摄的图片进行食材识别;
s1405,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取的过程;
将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息;
将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息。
s1406,将所述食材存取过程信息发送给所述食材存储设备进行管理。
下面从硬件处理的角度对本申请实施例中一种对食材存储设备中食材进行管理的装置进行描述。
请参阅图15,本申请实施例中一种对食材存储设备中食材进行管理的装置,包括:
处理器1501、存储器1502;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,包括如下步骤:
获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
可选的,处理器用于该方法应用于服务器时,获取多次拍摄的图片,包括:
获取食材存储设备在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄后上传的图片;
还包括:将食材管理信息发送给所述食材存储设备。
可选的,处理器用于根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
确定在拍摄时间较早图片中识别到食材信息,在拍摄时间较晚图片中未识别到食材信息时,确定发生食材存放过程,将识别到食材添加到食材信息;
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中识别到食材信息时,确定发生食材取出过程,将识别到食材从食材信息中删除。
可选的,处理器用于所述利用摄像装置进行多次拍摄的图片,包括:
利用无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,开启摄像装置所拍摄的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的图片。
可选的,处理器用于所述利用摄像装置进行多次拍摄的图片,包括:
在角度传感器检测到门体打开时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片。
可选的,处理器用于根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
根据所拍摄的图片,确定人手从箱体外向箱体内移动时,确定发生人手进入箱体过程,确定人手从箱体内向箱体外移动时,确定发生人手退出过程;
通过对比人手进入箱体过程中及人手退出箱体过程的食材变化信息,确定存放/取出的食材。
可选的,处理器用于将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息;或者
将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息。
本发明实施例还提供一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行上述实施例提供的满足对食材存储设备中食材进行管理的方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。
所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质(例如固态硬盘(solidstatedisk,ssd))等。
以上对本申请所提供的技术方案进行了详细介绍,本申请中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
1.一种食材存储设备,其特征在于,该设备包括:内部具有存储腔的箱体、设置在所述箱体上的摄像装置、无线传感器和控制器,其中:
所述无线传感器用于检测至少一个预设区域是否有障碍物;
所述摄像装置的摄像范围包括所述至少一个预设区域;
所述控制器用于在所述无线传感器检测到障碍物进入所述至少一个预设区域时,利用所述摄像装置进行多次图片拍摄,以通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
2.根据权利要求1所述的设备,其特征在于,开启所述摄像装置进行多次图片拍摄后,所述控制器还用于:
将所述多次拍摄的图片通过网络上传到云端服务器及接收服务器返回的食材管理信息,其中由所述服务器通过对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
3.根据权利要求1所述的设备,其特征在于,所述箱体包括半包围箱体及与所述半包围箱体配合形成不同间室的多个门体,所述摄像装置以伸缩式方式嵌入在至少一个间室的顶部,且在门体打开时伸出并在门体关闭时隐藏在所述顶部。
4.根据权利要求1所述的设备,其特征在于,所述箱体包括半包围箱体及与所述半包围箱体配合形成不同间室的多个门体,所述摄像装置以伸缩式方式嵌入在至少一个门体上,且在所述无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时伸出,在检测到门体关闭时隐藏在所述门体内。
5.根据权利要求3或4所述的设备,其特征在于,还包括:
设置在所述半包围箱体及门体连接处的角度传感器,所述角度传感器与控制器连接,用于检测所述门体打开或关闭。
6.根据权利要求3或4所述的设备,其特征在于,所述摄像装置包括电机、驱动部件和摄像头,所述控制器还用于通过控制所述电机,通过驱动部件带动所述摄像头进行伸缩。
7.根据权利要求6所述的设备,其特征在于,包括:
所述驱动部件包括由电机带动转动的齿轮、一端与所述齿轮咬合另一端与摄像头固定的齿条;或者
所述驱动部件包括由电机带动转动的蜗轮、一端与所述蜗轮连接另一端与摄像头固定的蜗杆;
所述驱动部件包括由电机带动转动的第一齿轮、分别连接第一齿轮和摄像头的第二齿轮,其中所述第二齿轮以平面内上下旋转方式带动摄像头伸缩。
8.根据权利要求1所述的设备,其特征在于,所述无线传感器具体用于在检测到有障碍物时,根据无线传感器信号的角度及检测到的障碍物的距离,确定检测到障碍物所在的预设区域。
9.根据权利要求8所述的设备,其特征在于,所述至少一个预设区域包括如下任多区域:
距离箱体外侧大于第一预设距离且小于第二预设距离的外围区域;
距离箱体外侧小于第二预设距离至距离箱体内侧大于第三预设距离的中间区域;
距离箱体内侧小于第三预设距离并大于第四预设距离的内部区域。
10.根据权利要求9所述的设备,其特征在于,所述控制器具体用于在所述无线传感器检测到任一预设区域有障碍物时,控制所述摄像装置进行图片拍照。
11.根据权利要求1所述的设备,其特征在于,还包括设置所述箱体上如下任一或任多部件:
显示交互模块,将存放/取出的食材信息输出显示,并接收对所述食材信息的纠正信息;
语音交互模块,用于将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息。
12.一种对食材存储设备中食材进行管理的方法,其特征在于,包括:
获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
13.根据权利要求12所述的方法,其特征在于,该方法应用于服务器时,获取多次拍摄的图片,包括:
获取食材存储设备在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄后上传的图片;
还包括:将食材管理信息发送给所述食材存储设备。
14.根据权利要求12所述的方法,其特征在于,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
确定在拍摄时间较早图片中识别到食材信息,在拍摄时间较晚图片中未识别到食材信息时,确定发生食材存放过程,将识别到食材添加到食材信息;
确定在拍摄时间较早图片中未识别到食材信息,在拍摄时间较晚图片中识别到食材信息时,确定发生食材取出过程,将识别到食材从食材信息中删除。
15.根据权利要求12~14任一所述的方法,其特征在于,所述利用摄像装置进行多次拍摄的图片,包括:
利用无线传感器检测到障碍物进入距离箱体小于设定距离的一个预设区域时,开启摄像装置所拍摄的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的图片。
16.根据权利要求12~14任一所述的方法,其特征在于,所述利用摄像装置进行多次拍摄的图片,包括:
在角度传感器检测到门体打开时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片;
在角度传感器检测到门体关闭时,利用所述摄像装置所拍摄的外围区域/中间区域/内部区域中至少两个区域有障碍物的图片。
17.根据权利要求16所述的方法,其特征在于,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理,包括:
根据所拍摄的图片,确定人手从箱体外向箱体内移动时,确定发生人手进入箱体过程,确定人手从箱体内向箱体外移动时,确定发生人手退出过程;
通过对比人手进入箱体过程中及人手退出箱体过程的食材变化信息,确定存放/取出的食材。
18.根据权利要求12所述的方法,其特征在于,还包括:
将存放/取出的食材信息以语音形式输出,并接收对所述食材信息进行纠正的语音信息;或者
将存放/取出的食材信息通过显示屏显示,并通过显示屏接收对所述食材信息的纠正信息。
19.一种对食材存储设备中食材进行管理的装置,其特征在于,包括:存储器、处理器;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,包括如下步骤:
获取在无线传感器检测到障碍物进入所述至少一个预设区域时,利用摄像装置进行多次拍摄的图片;
对拍摄的图片进行食材识别,根据在不同时间拍摄的图片内食材变化信息,确定发生一次食材存取过程时,根据存放/取出的食材对食材信息进行管理。
20.一种计算机可读存储介质,其特征在于,包括计算机程序指令,当其在计算机上运行时,使得计算机执行如权利要求12至18中任一项所述的方法。
技术总结