工业大数据处理方法、装置和计算机设备与流程

    专利2022-07-07  93


    本发明涉及计算机技术领域,尤其涉及一种工业大数据处理方法、装置和计算机设备。



    背景技术:

    工业大数据是指在工业领域中,围绕典型智能制造模式,从客户需求到销售、订单、计划、研发、设计、工艺、制造、采购、供应、库存、发货和交付、售后服务、运维、报废或回收再制造等整个产品全生命周期各个环节所产生的各类数据及相关技术和应用的总称。工业大数据以产品数据为核心,极大延展了传统工业数据范围,同时还包括工业大数据相关技术和应用。工业大数据的主要来源可分为以下三类:第一类是生产经营相关业务数据,第二类是设备物联数据,第三类是外部数据。

    在对工业大数据进行实时采集处理过程中,只能对单一数据源的数据进行实时采集,再通过计算后返回服务端进行写入操作。目前,无法同时对多个不同的数据源的数据进行采集和写入更新操作,更新效率较低,无法满足数据读写需求。

    为此,本申请人经过有益的探索和研究,找到了解决上述问题的方法,下面将要介绍的技术方案便是在这种背景下产生的。



    技术实现要素:

    本发明所要解决的技术问题之一在于:针对现有技术的不足而提供一种提高读写更新效率的工业大数据处理方法。

    本发明所要解决的技术问题之二在于:提供一种实现上述工业大数据处理方法的工业大数据处理装置。

    本发明所要解决的技术问题之三在于:提供一种用于实现上述工业大数据处理方法的计算机设备。

    作为本发明第一方面的一种工业大数据处理方法,包括:

    根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;

    循环执行创建的不同的任务;

    在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;

    在执行任务时,对采集到的标签数据进行解析计算处理;以及

    在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    在本发明的一个优选实施例中,所述根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置,包括:

    设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置;

    设置各个任务的任务名称、开始时间、任务周期以及间隔时间;以及

    导入不同的python自定义脚本。

    在本发明的一个优选实施例中,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集,包括:

    基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道;

    通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据;以及

    根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    在本发明的一个优选实施例中,所述对采集到的标签数据进行解析计算处理,包括:

    基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制;

    对采集到的标签数据进行解析处理;以及

    运用python自定义脚本对解析处理后的标签数据进行计算处理。

    在发明的一个优选实施例中,所述将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,包括:

    将解析计算处理得到的标签结果发送至对应的数据源所在的客户端;

    客户端接收标签结果,并将标签结果进行写入更新处理;以及

    客户端将不同任务的不同标签结果在页面进行展示处理。

    在本发明的一个优选实施例中,所述数据源为datahub数据源、geih数据源或insmartthistorian数据源中的一种或多种组合。

    作为本发明第二方面的一种实现上述工业大数据处理方法的工业大数据处理装置,包括:

    任务创建模块,所述任务创建模块用于根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;

    任务执行模块,所述任务执行模块用于循环执行创建的不同的任务;

    数据采集模块,所述数据采集模块用于在执行任务时根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;

    解析计算处理模块,所述解析计算处理模块用于在执行任务时对采集到的标签数据进行解析计算处理;以及

    标签结果写入模块,所述标签结果写入模块用于在执行任务时将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    在本发明的一个优选实施例中,所述任务创建模块包括:

    第一任务设置单元,所述第一任务设置单元用于设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置;

    第二任务设置单元,所述第二任务设置单元用于设置各个任务的任务名称、开始时间、任务周期以及间隔时间;以及

    导入单元,所述导入单元用于导入不同的python自定义脚本。

    在本发明的一个优选实施例中,所述数据采集模块包括:

    服务端通道创建单元,所述服务端通道创建单元用于基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道;

    数据接收单元,所述数据接收单元用于通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据;以及

    数据采集单元,所述数据采集单元用于根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    在本发明的一个优选实施例中,所述解析计算处理模块包括:

    协议通道创建单元,所述协议通道创建单元用于基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制;

    数据解析单元,所述数据解析单元用于对采集到的标签数据进行解析处理;以及

    数据计算单元,所述数据计算单元用于运用python自定义脚本对解析处理后的标签数据进行计算处理。

    在本发明的一个优选实施例中,所述标签结果写入模块包括:

    数据发送单元,所述数据发送单元用于将解析计算处理得到的标签结果发送至对应的数据源所在的客户端;

    数据写入单元,所述数据写入单元用于使得客户端接收标签结果,并将标签结果进行写入更新处理;以及

    页面展示单元,所述页面展示单元用于使得客户端将不同任务的不同标签结果在页面进行展示处理。

    作为本发明第三方面的一种用于实现上述工业大数据处理方法的计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

    根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;

    循环执行创建的不同的任务;

    在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;

    在执行任务时,对采集到的标签数据进行解析计算处理;以及

    在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    由于采用了如上技术方案,本发明的有益效果在于:本发明可同时对不同的数据源进行多任务多端口的数据采集、计算和更新,提高数据更新效率。同时,本发明还支持python脚本的自定义,分类管理以及在线编辑功能,稳定的断线重连机制,保证数据的稳定读写。

    附图说明

    为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

    图1是本发明的工业大数据处理方法的流程图。

    图2是本发明的工业大数据处理装置的一种实施例的结构示意图。

    图3是本发明的计算机设备的内部结构图。

    具体实施方式

    为了使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解,下面结合具体图示,进一步阐述本发明。

    参见图1,图中给出的是一种工业大数据处理方法,包括以下步骤:

    步骤s10,根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置。在本实施例中,数据源可以为datahub数据源、geih数据源或insmartthistorian数据源中的一种或多种组合。其中,datahub数据源可以连接上百种工业通讯协议及软件。

    步骤s20,循环执行创建的不同的任务。

    步骤s30,在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    步骤s40,在执行任务时,对采集到的标签数据进行解析计算处理。

    步骤s50,在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    在步骤s10中,根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置,包括以下子步骤:

    步骤s11,设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置;

    步骤s12,设置各个任务的任务名称、开始时间、任务周期以及间隔时间;

    步骤s13,导入不同的python自定义脚本。在本实施例中,python自定义脚本为采用python编程语言编辑的用于对标签数据进行自定义计算的脚本文件。

    在步骤s30中,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集,包括以下子步骤:

    步骤s31,基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道;

    步骤s32,通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据;以及

    步骤s33,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    在步骤s40中,对采集到的标签数据进行解析计算处理,包括以下子步骤:

    步骤s40,基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制;

    步骤s40,对采集到的标签数据进行解析处理;

    步骤s40,运用python自定义脚本对解析处理后的标签数据进行计算处理。

    在步骤s50中,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,包括以下子步骤:

    步骤s51,将解析计算处理得到的标签结果发送至对应的数据源所在的客户端;

    步骤s52,客户端接收标签结果,并将标签结果进行写入更新处理;以及

    步骤s53,客户端将不同任务的不同标签结果在页面进行展示处理。

    参见图2,本发明的工业大数据处理装置,包括任务创建模块100、任务执行模块200、数据采集模块300、解析计算处理模块400以及标签结果写入模块500。

    任务创建模块100用于根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置。具体地,任务创建模块100包括第一任务设置单元110、第二任务设置单元120以及导入单元130。第一任务设置单元110用于设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置。第二任务设置单元120用于设置各个任务的任务名称、开始时间、任务周期以及间隔时间。导入单元130用于导入不同的python自定义脚本。这里的python自定义脚本为采用python编程语言编辑的用于对标签数据进行自定义计算的脚本文件。

    任务执行模块200用于循环执行创建的不同的任务。具体地,将创建好的不同的任务按照一定顺序放入任务列表中,然后再逐一执行。

    数据采集模块300用于在执行任务时根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。具体地,数据采集模块300包括服务端通道创建单元310、数据接收单元320以及数据采集单元330。服务端通道创建单元310用于基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道。数据接收单元320用于通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据。数据采集单元330用于根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    解析计算处理模块400用于在执行任务时对采集到的标签数据进行解析计算处理。具体地,解析计算处理模块400包括协议通道创建单元410、数据解析单元420以及数据计算单元430。协议通道创建单元410用于基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制,保证数据的稳定读写。数据解析单元420用于对采集到的标签数据进行解析处理。数据计算单元430用于运用python自定义脚本对解析处理后的标签数据进行计算处理。

    标签结果写入模块500用于在执行任务时将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。具体地,标签结果写入模块500包括数据发送单元510、数据写入单元520以及页面展示单元530。数据发送单元510用于将解析计算处理得到的标签结果发送至对应的数据源所在的客户端。数据写入单元520用于使得客户端接收标签结果,并将标签结果进行写入更新处理。页面展示单元530用于使得客户端将不同任务的不同标签结果在页面进行展示处理。

    本发明的工业大数据处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。

    本发明还提供了一种用于实现上述工业大数据处理方法的计算机设备,该计算机设备可以是服务器,其内部结构图可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储用户信息、记录信息和文件等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种上述的工业大数据处理方法。

    本领域技术人员可以理解,图3中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

    具体地,本发明的计算机设备包括存储器和处理器,该存储器存储有计算机程序,处理器执行计算机程序时实现以下步骤:

    步骤s10,根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置。在本实施例中,数据源可以为datahub数据源、geih数据源或insmartthistorian数据源中的一种或多种组合。其中,datahub数据源可以连接上百种工业通讯协议及软件。

    步骤s20,循环执行创建的不同的任务。

    步骤s30,在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    步骤s40,在执行任务时,对采集到的标签数据进行解析计算处理。

    步骤s50,在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。

    以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。


    技术特征:

    1.一种工业大数据处理方法,其特征在于,包括:

    根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;

    循环执行创建的不同的任务;

    在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;

    在执行任务时,对采集到的标签数据进行解析计算处理;以及

    在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    2.如权利要求1所述的工业大数据处理方法,其特征在于,所述根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置,包括:

    设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置;

    设置各个任务的任务名称、开始时间、任务周期以及间隔时间;以及

    导入不同的python自定义脚本。

    3.如权利要求1所述的工业大数据处理方法,其特征在于,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集,包括:

    基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道;

    通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据;以及

    根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    4.如权利要求1所述的工业大数据处理方法,其特征在于,所述对采集到的标签数据进行解析计算处理,包括:

    基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制;

    对采集到的标签数据进行解析处理;以及

    运用python自定义脚本对解析处理后的标签数据进行计算处理。

    5.如权利要求1所述的工业大数据处理方法,其特征在于,所述将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,包括:

    将解析计算处理得到的标签结果发送至对应的数据源所在的客户端;

    客户端接收标签结果,并将标签结果进行写入更新处理;以及

    客户端将不同任务的不同标签结果在页面进行展示处理。

    6.如权利要求1至5中任一项所述的工业大数据处理方法,其特征在于,所述数据源为datahub数据源、geih数据源或insmartthistorian数据源中的一种或多种组合。

    7.一种实现如权利要求1至6中任一项所述的工业大数据处理方法的工业大数据处理装置,其特征在于,包括:

    任务创建模块,所述任务创建模块用于根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;

    任务执行模块,所述任务执行模块用于循环执行创建的不同的任务;

    数据采集模块,所述数据采集模块用于在执行任务时根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;

    解析计算处理模块,所述解析计算处理模块用于在执行任务时对采集到的标签数据进行解析计算处理;以及

    标签结果写入模块,所述标签结果写入模块用于在执行任务时将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。

    8.如权利要求7所述的工业大数据处理装置,其特征在于,所述任务创建模块包括:

    第一任务设置单元,所述第一任务设置单元用于设置需要读取的标签名称、需要写入的标签名称以及idi服务端配置;

    第二任务设置单元,所述第二任务设置单元用于设置各个任务的任务名称、开始时间、任务周期以及间隔时间;以及

    导入单元,所述导入单元用于导入不同的python自定义脚本。

    9.如权利要求7所述的工业大数据处理装置,其特征在于,所述数据采集模块包括:

    服务端通道创建单元,所述服务端通道创建单元用于基于idi通讯协议在服务端与客户端之间创建idi通信协议服务端通道;

    数据接收单元,所述数据接收单元用于通过datahub服务端或者maxcomputing服务端接收客户端上传的标签数据;以及

    数据采集单元,所述数据采集单元用于根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集。

    10.如权利要求7所述的工业大数据处理装置,其特征在于,所述解析计算处理模块包括:

    协议通道创建单元,所述协议通道创建单元用于基于idi通讯协议在服务端与客户端之间创建idi通信协议通道,并写入断线重连机制;

    数据解析单元,所述数据解析单元用于对采集到的标签数据进行解析处理;以及

    数据计算单元,所述数据计算单元用于运用python自定义脚本对解析处理后的标签数据进行计算处理。

    11.如权利要求7所述的工业大数据处理装置,其特征在于,所述标签结果写入模块包括:

    数据发送单元,所述数据发送单元用于将解析计算处理得到的标签结果发送至对应的数据源所在的客户端;

    数据写入单元,所述数据写入单元用于使得客户端接收标签结果,并将标签结果进行写入更新处理;以及

    页面展示单元,所述页面展示单元用于使得客户端将不同任务的不同标签结果在页面进行展示处理。

    12.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述的工业大数据处理方法。

    技术总结
    本发明公开的一种工业大数据处理方法,包括:根据不同的数据源创建不同的任务,并确认每一任务中需要读取的标签名称以及各种参数设置;循环执行创建的不同的任务;在执行任务时,根据确认好的标签名称以及各种参数设置对客户端上传的标签数据进行数据采集;在执行任务时,对采集到的标签数据进行解析计算处理;以及在执行任务时,将解析计算处理得到的标签结果写入至对应的数据源所在的客户端,以对客户端的标签信息进行更新和将标签结果在客户端的页面上进行展示处理。还公开了一种实现上述工业大数据处理方法的装置以及计算机设备。本发明可同时对不同的数据源进行多任务多端口的数据采集、计算和更新,提高数据更新效率。

    技术研发人员:刘胜
    受保护的技术使用者:上海企翔智能科技有限公司
    技术研发日:2020.11.17
    技术公布日:2021.03.12

    转载请注明原文地址:https://wp.8miu.com/read-7505.html

    最新回复(0)