本申请涉及人工智能技术领域，尤其涉及一种基于imu(inertialmeasurementunit，惯性测量单元)的三维空间手写输入方法和装置。
背景技术：
由于屏幕、纸张、黑板等用于展示手写笔迹的设备都是二维的，目前存在着各种各样的二维空间手写输入方式，随着虚拟现实、增强现实(vr，virtualreality/ar，augmentedreality)技术以及计算机图形学的发展，三维空间中物体的展示变得愈加简单和真实。目前绝大多数手写输入设备都是在一个平面上进行书写，并不具备直接的三维作图能力。
相关技术中，可以记录三维手写轨迹的方法包括使用各种高精度距离传感器(超声波距离传感器、激光传感器等)，或者使用深度相机、多相机系统等，这些方法需要外置的基站或相机，而且对使用环境有很高的要求(如光照要求、遮挡要求、相机或基站的摆放等)。部署这样一个系统费时费力，而且成本高、功耗大。
技术实现要素：
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
为此，本申请的第一个目的在于提出一种基于imu的三维空间手写输入方法，以实现增加用户体验、降低输入系统的成本、以及增强系统的可用性和鲁棒性。
本申请的第二个目的在于提出一种基于imu的三维空间手写输入装置。
为达上述目的，本申请第一方面实施例提出了一种基于imu的三维空间手写输入方法，包括：
获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；
通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息；
通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹。
本申请实施例的基于imu的三维空间手写输入方法，通过获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；通过深度神经网络对多个惯性信息进行处理，获取用户的骨骼链姿态信息；通过正向动力学对骨骼链姿态信息进行求解，获取用户的手部位置，并根据手部位置和历史位置信息形成三维手写轨迹。由此，使用户可以在空中徒手作画并实时观看到画出的三维轨迹实现手写输入，满足用户需求。
在本申请的一个实施例中，所述惯性测量单元imu传感器分别安装在所述用户的任一手腕、任一大臂和腰上；
通过蓝牙或无线技术接收所述惯性测量单元imu传感器采集到的多个惯性信息。
在本申请的一个实施例中，初次使用时所述用户在确定姿态下采集的imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量。
在本申请的一个实施例中，在所述通过深度神经网络对所述多个惯性信息进行处理之前，还包括：
通过预设算法对所述多个惯性信息进行校验处理，并将所述多个惯性信息下采样到预设频率上；其中，所述预设频率公式为：fs＝max(30,min(fimu1,fimu2,fimu3))。
在本申请的一个实施例中，所述通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息，包括：
根据所述旋转偏差量和所述多个惯性信息计算骨架的旋转矩阵和加速度输入循环神经网络，估计手臂骨骼链上关节的旋转信息，获取所述骨骼链姿态信息。
在本申请的一个实施例中，所述通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹，包括：
根据所述骨骼链姿态信息和已知的骨骼长度信息计算手部关节坐标；
根据所述手部关节坐标结合所述历史位置信息形成所述三维手写轨迹。
为达上述目的，本申请第二方面实施例提出了一种基于imu的三维空间手写输入装置，包括：
获取模块，用于获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；
处理模块，用于通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息；
生成模块，用于通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹。
本申请实施例的基于imu的三维空间手写输入装置，通过获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；通过深度神经网络对多个惯性信息进行处理，获取用户的骨骼链姿态信息；通过正向动力学对骨骼链姿态信息进行求解，获取用户的手部位置，并根据手部位置和历史位置信息形成三维手写轨迹。由此，使用户可以在空中徒手作画并实时观看到画出的三维轨迹实现手写输入，满足用户需求。
本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为本申请实施例一所提供的一种基于imu的三维空间手写输入方法的流程示意图；
图2为本申请实施例的imu穿戴位置的示例图；
图3为本申请实施例的一种基于imu的三维空间手写输入方法的示例图；
图4为本申请实施例所提供的一种基于imu的三维空间手写输入装置的结构示意图。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的基于imu的三维空间手写输入方法和装置。
本申请实施例可以在三维空间中进行手写输入的方法，处理器比如计算机收到的输入数据并进行处理后可以通过各种三维图形软件和vr/ar技术将书写轨迹显示出来。
具体地，利用三个微型imu传感器进行惯性测量作为输入数据，imu即惯性测量单元，普遍内置于智能可穿戴设备(如智能手环、手表、腰带、眼镜等)和个人移动设备(如智能手机等)中，而且随着智能可穿戴设备的普及，基于imu的系统的实用性也会大大增加。本输入系统对imu的型号没有任何要求，任何可以采集惯性信息的装置都可以用于系统输入。用户在手腕、大臂和腰上等穿戴imu后，计算机通过蓝牙或无线网络收到三个传感器的惯性信息，利用深度学习的方法实时估计用户的手臂骨骼链的姿态，并解算手部移动轨迹。该轨迹可以通过三维图形软件渲染到屏幕上，或通过vr设备直接在虚拟三维空间中展示。因此本发明使用户可以在空中徒手作画并实时观看到画出的三维轨迹，具有很大的使用价值。
图1为本申请实施例一所提供的一种基于imu的三维空间手写输入方法的流程示意图。
如图1所示，该基于imu的三维空间手写输入方法包括以下步骤：
步骤101，获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息。
在本申请实施例中，惯性测量单元imu传感器分别安装在用户的任一手腕、任一大臂和腰上；通过蓝牙或无线技术接收惯性测量单元imu传感器采集到的多个惯性信息。
具体地，绑定在手腕、大臂和腰上的三个imu传感器采集到的惯性信息，进行数据检查和同步处理。
步骤102，通过深度神经网络对多个惯性信息进行处理，获取用户的骨骼链姿态信息。
步骤103，通过正向动力学对骨骼链姿态信息进行求解，获取用户的手部位置，并根据手部位置和历史位置信息形成三维手写轨迹。
在本申请实施例中，初次使用时用户在确定姿态下采集的imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量。
在本申请实施例中，通过预设算法对多个惯性信息进行校验处理，并将多个惯性信息下采样到预设频率上；其中，预设频率公式为：fs＝max(30,min(fimu1,fimu2,fimu3))。
在本申请实施例中，根据旋转偏差量和多个惯性信息计算骨架的旋转矩阵和加速度输入循环神经网络，估计手臂骨骼链上关节的旋转信息，获取骨骼链姿态信息。
在本申请实施例中，根据骨骼链姿态信息和已知的骨骼长度信息计算手部关节坐标；根据所述手部关节坐标结合历史位置信息形成所述三维手写轨迹。
具体地，为每一帧实时估计当前的手部位置并进行记录。该方法利用通过蓝牙或无线技术获得的惯性信息(包括加速度和角度信息)，将当前帧和历史所有帧的信息共同考虑，并通过深度学习的方法估计一个从手部到腰部的骨骼链姿态，这包括所有关节的旋转信息。接着系统通过正向动力学的方法求解手部的位置，每一帧实时估计出的手部位置形成输入的移动轨迹。该方法结合渲染引擎和vr系统，可直接将生成的轨迹渲染在二维或三维空间中。
具体地，在确定姿态下采集imu数据，利用imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量，校准并归一化每一帧imu数据，利用深度循环神经网络，通过收集到的惯性信息估计手臂骨骼链的姿态，应用正向动力学的方法实时求解每一帧手部关节的位置，结合历史位置信息构成完整三维手写轨迹。
具体地，如图2所示，的方式穿戴imu设备，其中imu的方向可以任意放置，只需要穿戴到指定的位置附近即可。应尽量避免因为运动过程中由肌肉造成的形变影响到imu的旋转，也即尽量将imu放置在运动过程中不会发生大形变的皮肤附近(例如手腕、大臂背面或侧面、腰部后背)。通过这三个imu测量的惯性信息即可恢复出三维的手写轨迹。
具体地，如图3所示的三维手写输入方法，包括：
1)对读取到的imu测量值进行解码检验和同步。由于使用三个imu设备通过无线技术连接电脑发送数据，而imu设备的原始加速度、角度数据一般需要进行解码和校验，首先先根据使用的imu类型进行惯性信息解码。另外对于一些只能获取加速度、角速度和磁场值原始数据的imu，需要先通过互补滤波或卡尔曼滤波等算法首先解算角度值。对通过数据校验的数据，对不同imu的数据进行同步(如果三个imu的型号不同)，具体而言，选取采样频率最低的imu的频率作为输入系统的频率(但要求不低于30hz)，并将其他imu测得的数据下采样到该频率上完成数据同步。若最低频率的imu频率低于30hz，建议修改其频率或使用其他imu，或者将其测量值通过插值的方式上采样到30hz。其中，输入系统的频率fs的数学定义如下：
fs＝max(30,min(fimu1,fimu2,fimu3))(1)
2)计算校准矩阵。具体而言，初次使用时需要用户在确定姿态(定义为手臂自然下垂的状态)下采集imu数据，并利用imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量(该量可表示为一个恒定的旋转矩阵)。
定义骨骼模型全局坐标系为fm，imu全局惯性坐标系为fi，imu设备坐标系为fs。要求用户校准时将手腕部分imu传感器的x,y,z轴与自己身体的右，上，前方对齐，即将fs与fm对齐，此时该传感器测的的旋转即为fi到fm的过渡矩阵
birim＝bm(2)
这里用b表示坐标系的基矩阵。随后在校准过程中，使用户维持一个确定的手臂自然下垂姿态，也即确定的关节旋转
3)校准并归一化imu数据，利用深度循环神经网络估计手臂骨骼链的姿态。利用校准过程计算好的校准矩阵和第一步获取的旋转信息计算骨架的旋转
其中
4)应用正向动力学的方法实时求解每一帧手部关节的位置。第三步的网络输出了当前帧的手臂骨骼链上所有关节的旋转，利用这些旋转和已知的骨骼长度信息，可以根据正向动力学求解出手部(即末端关节)的位置。具体而言，若骨骼链中第i个关节的相对旋转矩阵为r(i)，则此姿态下第i个关节的齐次坐标应为
其中
其中θ＝0表示标准姿态，parent(i)表示关节i的父关节。由此，可以计算出当前帧的手部关节坐标，结合历史位置信息可以构成完整三维手写轨迹。
由此，对三维空间中手部移动轨迹的获取具有较大意义。本发明中的方法首先处理传感器的原始测量数据，进行数据解码和检验，以及多传感器之间数据同步工作。随后要求使用者维持手臂自然下垂姿态一秒钟用于计算校准矩阵。紧接着利用变换矩阵校准每一帧收到的惯性数据，做归一化并通过循环神经网络估计手臂骨架姿态，最后使用正向动力学解算手部三维位置。该方法可以实时获取手部移动轨迹，并可直接添加到三维场景中。
申请实施例的方法可以在普通pc机上实现，不限制使用环境，包括光照、遮挡等要求；不限制imu的种类，仅需要三个imu；不限制imu的摆放角度，只需要穿戴到指定部位上，并进行短暂校准过程。
由此，用户可以穿戴三个微型imu设备后在空中徒手作画，系统可以将用户的手部轨迹实时渲染在三维场景中，并通过vr设备或屏幕进行展示，该系统对使用环境(如光照、遮挡)没有任何要求，传感器数据通过蓝牙或无线网络进行传输，具有极高的用户友好度。
本申请实施例的基于imu的三维空间手写输入方法，通过获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；通过深度神经网络对多个惯性信息进行处理，获取用户的骨骼链姿态信息；通过正向动力学对骨骼链姿态信息进行求解，获取用户的手部位置，并根据手部位置和历史位置信息形成三维手写轨迹。由此，使用户可以在空中徒手作画并实时观看到画出的三维轨迹实现手写输入，满足用户需求。
为了实现上述实施例，本申请还提出一种基于imu的三维空间手写输入装置。
图4为本申请实施例提供的一种基于imu的三维空间手写输入装置的结构示意图。
如图4所示，该基于imu的三维空间手写输入装置包括：获取模块410、处理模块420和生成模块430。
获取模块410，用于获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息。
处理模块420，用于通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息。
生成模块430，用于通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹。
在本申请实施例中，所述惯性测量单元imu传感器分别安装在所述用户的任一手腕、任一大臂和腰上；所述获取模块，具体用于：通过蓝牙或无线技术接收所述惯性测量单元imu传感器采集到的多个惯性信息。
在本申请实施例中，所述基于imu的三维空间手写输入装置，还包括：
确定模块，用于初次使用时所述用户在确定姿态下采集的imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量。
在本申请实施例中，所处理模块，具体用于：根据所述旋转偏差量和所述多个惯性信息计算骨架的旋转矩阵和加速度输入循环神经网络，估计手臂骨骼链上关节的旋转信息，获取所述骨骼链姿态信息。
在本申请实施例中，所述通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹，包括：根据所述骨骼链姿态信息和已知的骨骼长度信息计算手部关节坐标；根据所述手部关节坐标结合所述历史位置信息形成所述三维手写轨迹。
本申请实施例的基于imu的三维空间手写输入装置，通过获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；通过深度神经网络对多个惯性信息进行处理，获取用户的骨骼链姿态信息；通过正向动力学对骨骼链姿态信息进行求解，获取用户的手部位置，并根据手部位置和历史位置信息形成三维手写轨迹。由此，使用户可以在空中徒手作画并实时观看到画出的三维轨迹实现手写输入，满足用户需求。
需要说明的是，前述对基于imu的三维空间手写输入方法实施例的解释说明也适用于该实施例的基于imu的三维空间手写输入装置，此处不再赘述。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
1.一种基于imu的三维空间手写输入方法，其特征在于，包括：
获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；
通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息；
通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹。
2.如权利要求1所述基于imu的三维空间手写输入方法，其特征在于，所述惯性测量单元imu传感器分别安装在所述用户的任一手腕、任一大臂和腰上；
通过蓝牙或无线技术接收所述惯性测量单元imu传感器采集到的多个惯性信息。
3.如权利要求1所述基于imu的三维空间手写输入方法，其特征在于，还包括：
初次使用时所述用户在确定姿态下采集的imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量。
4.如权利要求1所述基于imu的三维空间手写输入方法，其特征在于，在所述通过深度神经网络对所述多个惯性信息进行处理之前，还包括：
通过预设算法对所述多个惯性信息进行校验处理，并将所述多个惯性信息下采样到预设频率上；其中，所述预设频率公式为：fs＝max(30,min(fimu1,fimu2,fimu3))。
5.如权利要求3所述基于imu的三维空间手写输入方法，其特征在于，所述通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息，包括：
根据所述旋转偏差量和所述多个惯性信息计算骨架的旋转矩阵和加速度输入循环神经网络，估计手臂骨骼链上关节的旋转信息，获取所述骨骼链姿态信息。
6.如权利要求1所述基于imu的三维空间手写输入方法，其特征在于，所述通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹，包括：
根据所述骨骼链姿态信息和已知的骨骼长度信息计算手部关节坐标；
根据所述手部关节坐标结合所述历史位置信息形成所述三维手写轨迹。
7.一种基于imu的三维空间手写输入装置，其特征在于，包括：
获取模块，用于获取用户的各个位置上惯性测量单元imu传感器采集到的多个惯性信息；
处理模块，用于通过深度神经网络对所述多个惯性信息进行处理，获取所述用户的骨骼链姿态信息；
生成模块，用于通过正向动力学对所述骨骼链姿态信息进行求解，获取所述用户的手部位置，并根据所述手部位置和历史位置信息形成三维手写轨迹。
8.如权利要求7所述基于imu的三维空间手写输入装置，其特征在于，所述惯性测量单元imu传感器分别安装在所述用户的任一手腕、任一大臂和腰上；所述获取模块，具体用于：
通过蓝牙或无线技术接收所述惯性测量单元imu传感器采集到的多个惯性信息。
9.如权利要求6所述基于imu的三维空间手写输入装置，其特征在于，还包括：
确定模块，用于初次使用时所述用户在确定姿态下采集的imu设备坐标系、imu全局惯性坐标系、骨骼模型全局坐标系和每个骨骼本身坐标系之间的变换关系，确定imu测量值和真实骨骼旋转之间的旋转偏差量。
10.如权利要求9所述基于imu的三维空间手写输入装置，其特征在于，所处理模块，具体用于：
根据所述旋转偏差量和所述多个惯性信息计算骨架的旋转矩阵和加速度输入循环神经网络，估计手臂骨骼链上关节的旋转信息，获取所述骨骼链姿态信息。
技术总结