一种基于深度学习与规则的自然语言理解方法及系统与流程

    专利2026-02-04  2


    本发明涉及自然语言处理,具体涉及一种基于深度学习与规则的自然语言理解方法及系统。


    背景技术:

    1、任务型对话系统也称目标导向型对话系统,主要指机器人为满足用户某一实际需求而产生的多轮对话,机器人通过理解、澄清等方式确定用户意图,继而通过答复、调用api等方式完成该任务。在该任务内,机器人需要理解上下文信息并做出下一步的动作。该类系统具有明确需要完成的任务目标,如查天气、发短信、打电话等。任务型对话系统大体可分为自然语言理解、对话管理以及自然语言生成三个模块。其中,自然语言理解(naturallanguage understanding,nlu)是任务型对话系统的关键组成。nlu有两个关键点,一个是理解说话人的意图,也即意图识别,另外则是从用户询问信息中提取语义成分,也即实体识别,实体识别也称为“槽填充”。

    2、当前,意图识别和“槽填充”可以采用规则模板匹配和传统机器学习方式实现。然而,规则模板匹配适合意图或槽位规则性较强的系统,但需要大量人力物力去构建规则模板;对于规则性不够强的意图或实体,模板难以覆盖使得该类方式精确率和召回率都会大打折扣。基于传统机器学习的意图识别仅提取了字面上的浅层特征,无法提取句子语义的深层特征,实现效果差强人意,有待提升其特征。因而,现有技术中自然语言理解模型的精准度相对较低,难以满足用户的定制化需求。


    技术实现思路

    1、有鉴于此,本发明提供了一种基于深度学习与规则的自然语言理解方法及系统,以解决上述技术背景中提出的现有自然语言理解模型的精准度低,难以满足用户定制化需求的问题。

    2、第一方面,本发明提供了一种基于深度学习与规则的自然语言理解方法,方法包括:

    3、获取用户的请求信息,请求信息为用户与智能设备交互过程中的对话信息;

    4、将请求信息分别输入多个预设自然语言理解模型进行推理,得到各个模型对应的推理结果,推理结果包含请求信息对应的意图信息和词槽信息;

    5、根据各个预设自然语言理解模型对应的预设置信度,对多个预设自然语言理解模型得到的推理结果进行推理综合判断,确定综合推理结果;

    6、将综合推理结果进行归一化处理,得到请求信息对应的响应结果。

    7、本发明将多个预设自然语言理解模型针对用户的请求信息推理得到的多个推理结果进行推理综合判断,确定综合推理结果的过程,能够提高自然语言理解模型的准确率和泛化性,极大的满足了用户定制的对话需求。

    8、在一种可选的实施方式中,多个预设自然语言理解模型,包括:第一自然语言理解模型、第二自然语言理解模型和第三自然语言理解模型;其中,第一自然语言理解模型为预设多场景词槽库,第二自然语言理解模型为预设深度学习模型,第三自然语言理解模型为预设规则模型;

    9、将请求信息分别输入多个预设自然语言理解模型进行推理,得到各个模型对应的推理结果,包括:

    10、基于预设多场景词槽库对请求信息进行词槽匹配,得到对应的第一推理结果;

    11、基于预设深度学习模型对请求信息进行意图识别和词槽解析,得到对应的第二推理结果;

    12、基于预设规则模型对请求信息进行意图识别和词槽解析,得到对应的第三推理结果。

    13、本发明涉及的多种自然语言理解模型,能够满足不同的用户对话需求,提高了自然语言理解模型的准确率和泛化性。

    14、在一种可选的实施方式中,基于预设深度学习模型对请求信息进行意图识别和词槽解析,得到对应的第二推理结果,包括:

    15、获取预设深度学习模型相关参数,相关参数包括:模型结构、模型权重和偏移量参数;

    16、根据相关参数构建深度学习模型;

    17、将请求信息输入深度学习模型,输出请求信息对应的意图信息和词槽信息。

    18、本发明通过调用训练好的深度学习模型,能够快速识别用户的意图,提高用户的体验感。

    19、在一种可选的实施方式中,基于预设规则模型对请求信息进行意图识别和词槽解析,得到对应的第三推理结果,包括:

    20、基于预设规则模型对请求信息中提取对应的意图信息和词槽信息;

    21、基于词槽信息从预设词槽库中提取与其对应的标识,并基于标识对请求信息中的词槽信息进行替换,得到包含意图信息和词槽标识的候选请求信息列表,预设词槽库为预先设定的词槽信息和对应标识的数据库;

    22、基于预设语句匹配库对候选请求信息列表中的词槽标识进行匹配,得到匹配的意图信息和词槽信息,预设语句匹配库为预先设定的词槽标识、标识对应的匹配语句、匹配的意图信息和词槽信息的数据库。

    23、本发明的预设的词槽信息库和语句匹配库基于实际应用中常用对话场景设定,不仅丰富了数据处理的流程,还能保障预设规则模型的输出精度,提高模型的泛化性能,以满足不同场景中用户的对话需求。

    24、在一种可选的实施方式中,根据各个预设自然语言理解模型对应的预设置信度,对多个预设自然语言理解模型得到的推理结果进行推理综合判断,确定综合推理结果,包括:

    25、判断各个预设自然语言理解模型得到的推理结果是否超过其对应的预设门限阈值;

    26、若推理结果未超过其对应的预设门限阈值,则该模型推理结果为空;

    27、若推理结果超过其对应的预设门限阈值,则该模型推理结果为对应的意图信息和词槽信息;

    28、获取所有不为空的推理结果记为候选结果列表;

    29、根据各个推理结果对应的预设置信度的大小关系对候选结果列表进行大小排序,并将候选结果列表中第一个推理结果记为综合推理结果,预设置信度的大小满足以下关系式:

    30、t3>t2>t1

    31、其中,t3为第三推理结果对应的第三预设置信度,t2为第二推理结果对应的第二预设置信度,t1为第一推理结果对应的第一预设置信度。

    32、本发明基于实际需求出发设定不同推理结果对应的门限阈值和置信度阈值,能够一定程度上保障模型的输出精度,满足了用户定制的对话需求。

    33、在一种可选的实施方式中,在获取到新增预设对话场景下的用户请求信息时,基于深度学习与规则的自然语言理解方法还包括:

    34、将请求信息输入预设深度学习模型进行训练,得到对应优化的自然语言理解模型并进行本地存储;

    35、基于预设规则模型对用户请求信息中提取对应的词槽信息和意图信息;对词槽信息和意图信息分别进行处理,得到满足预设数据格式要求的词槽信息和意图信息并进行本地存储。

    36、本发明在获取到新增预设对话场景下的用户请求信息时,将该类新增的用户请求用于优化预设的深度学习模型和规则模型,能够提高自然语言理解模型的精准度,提高模型的鲁棒性和泛化性。

    37、在一种可选的实施方式中,多个预设自然语言理解模型还包括第四自然语言理解模型,第四自然语言理解模型为预设情感词槽库,在获取用户的请求信息时,基于深度学习与规则的自然语言理解方法还包括:

    38、基于预设情感词槽库对请求信息进行情感词槽提取,得到包含情感词槽信息的第四推理结果;

    39、判断第四推理结果是否超过其对应的预设门限阈值;

    40、若第四推理结果未超过其对应的预设门限阈值,则第四推理结果为空;

    41、若第四推理结果超过其对应的预设门限阈值,则第四推理结果为其对应的情感词槽信息;

    42、将第四推理结果和综合推理结果进行归一化处理,得到请求信息对应的响应结果。

    43、本发明的基于深度学习与规则的自然语言理解方法,考虑到特殊场景中情感类相关的词语对用户请求信息的推理影响,对应设计的预设情感词槽库丰富了对话场景,满足了用户全方位的定制需求。

    44、第二方面,本发明提供了一种基于深度学习与规则的自然语言理解系统,系统包括:

    45、获取模块,用于获取用户的请求信息,请求信息为用户与智能设备交互过程中的对话信息;

    46、推理模块,用于将请求信息分别输入多个预设自然语言理解模型进行推理,得到各个模型对应的推理结果,推理结果包含请求信息对应的意图信息和词槽信息;

    47、综合判断模块,用于根据各个预设自然语言理解模型对应的预设置信度,对多个预设自然语言理解模型得到的推理结果进行推理综合判断,确定综合推理结果;

    48、响应模块,用于将综合推理结果进行归一化处理,得到请求信息对应的响应结果。

    49、本发明基于深度学习与规则的自然语言理解系统,既适用简单命令式用户话术,也适用于槽位复杂的用户话术,能够全方位覆盖用户任务式对话场景,从而实现用户的个性化定制需求。

    50、第三方面,本发明提供了一种计算机设备,包括:存储器和处理器,存储器和处理器之间互相通信连接,存储器中存储有计算机指令,处理器通过执行计算机指令,从而执行上述第一方面或其对应的任一实施方式的一种基于深度学习与规则的自然语言理解方法。

    51、第四方面,本发明提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机指令,计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的一种基于深度学习与规则的自然语言理解方法。


    技术特征:

    1.一种基于深度学习与规则的自然语言理解方法,其特征在于,所述方法包括:

    2.根据权利要求1所述的基于深度学习与规则的自然语言理解方法,其特征在于,所述多个预设自然语言理解模型,包括:第一自然语言理解模型、第二自然语言理解模型和第三自然语言理解模型;其中,所述第一自然语言理解模型为预设多场景词槽库,所述第二自然语言理解模型为预设深度学习模型,第三自然语言理解模型为预设规则模型;

    3.根据权利要求2所述的基于深度学习与规则的自然语言理解方法,其特征在于,所述基于预设深度学习模型对所述请求信息进行意图识别和词槽解析,得到对应的第二推理结果,包括:

    4.根据权利要求2所述的基于深度学习与规则的自然语言理解方法,其特征在于,所述基于预设规则模型对所述请求信息进行意图识别和词槽解析,得到对应的第三推理结果,包括:

    5.根据权利要求2所述的基于深度学习与规则的自然语言理解方法,其特征在于,所述根据各个预设自然语言理解模型对应的预设置信度,对多个预设自然语言理解模型得到的推理结果进行推理综合判断,确定综合推理结果,包括:

    6.根据权利要求2所述的基于深度学习与规则的自然语言理解方法,其特征在于,在获取到新增预设对话场景下的用户请求信息时,所述方法还包括:

    7.根据权利要求5所述的基于深度学习与规则的自然语言理解方法,其特征在于,所述多个预设自然语言理解模型还包括第四自然语言理解模型,所述第四自然语言理解模型为预设情感词槽库,在获取用户的请求信息时,所述方法还包括:

    8.一种基于深度学习与规则的自然语言理解系统,其特征在于,所述系统包括:

    9.一种计算机设备,其特征在于,所述设备包括:存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器中存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行权利要求1至7中任一项所述的基于深度学习与规则的自然语言理解方法。

    10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令,所述计算机指令用于使计算机执行权利要求1至7中任一项所述的基于深度学习与规则的自然语言理解方法。


    技术总结
    本发明涉及自然语言处理技术领域,公开了一种基于深度学习与规则的自然语言理解方法及系统,方法包括:获取用户的请求信息,请求信息为用户与智能设备交互过程中的对话信息;将请求信息分别输入多个预设自然语言理解模型进行推理,得到各个模型对应的推理结果,推理结果包含请求信息对应的意图信息和词槽信息;根据各个预设自然语言理解模型对应的预设置信度,对多个预设自然语言理解模型得到的推理结果进行推理综合判断,确定综合推理结果;将综合推理结果进行归一化处理,得到请求信息对应的响应结果。通过本发明能够提高自然语言理解模型的准确率和泛化性,满足了用户定制化的对话需求。

    技术研发人员:章彦博
    受保护的技术使用者:暗物智能科技(广州)有限公司
    技术研发日:
    技术公布日:2024/4/29
    转载请注明原文地址:https://wp.8miu.com/read-94682.html

    最新回复(0)