一种任务型对话文本增强系统的制作方法

    专利2022-07-08  180

    本发明涉及文本处理技术领域,具体涉及一种任务型对话文本增强系统。



    背景技术:

    任务型对话系统旨在帮助用户完成实际具体的任务,例如帮助用户搜索音乐、预订航班或酒店等。

    从架构上,任务型对话系统主要包括自然语言理解模块、对话管理模块、自然语言生成模块。其中,自然语言理解模块主要用于意图识别模块和语义填充。对话管理模块主要用于对话状态跟踪和对话策略优化。自然语言生成模块主要通过模板配置即可实现。通常来说,一个任务型对话系统包含多个意图。当用户输入一句话时,意图识别模块首先识别用户这句话中的意图是是什么。然后根据意图识别的结果,将这句话分配到对应意图的语义填充模块完成语义的序列标注。

    数据增强通过扩大机器学习系统中训练数据的大小来解决数据不足问题。数据增强在诸如图像分类、语音识别等领域得到了一些应用,但较少用在任务型对话领域。在构建任务型对话系统的过程中,训练数据的稀缺一直是个问题,制约了任务型对话系统的性能优化进程。



    技术实现要素:

    为解决现有技术的不足,本发明实施例提供了一种任务型对话文本增强系统,该系统包括同义词替换模块、近义词替换模块、实体替换模块、噪声注入模块、文本混合模块,其中:

    所述同义词替换模块,用于用文本中各个词的同义词替换对应的词,生成第一训练数据;

    所述近义词替换模块,用于用文本中各个词的近义词替换对应的词,生成第二训练数据;

    所述实体替换模块,用于用文本中与各个实体类型相同的实体替换对应的实体,生成第三训练数据;

    所述噪声注入模块,用于置空、交换、增加、删除文本的词,生成第四训练数据;

    所述文本混合模块,用于混合所述第一训练数据、所述第二训练数据、所述第三训练数据、所述第四训练数据,得到第五训练数据。

    优选地,所述文本混合模块,具体用于:

    利用mixup算法,混合所述第一训练数据、所述第二训练数据、所述第三训练数据、所述第四训练数据。

    优选地,所述近义词替换模块还用于利用训练过的word2vec模型及训练过的glove模型,获取文本中各个词的近义词。

    优选地,所述实体替换模块还用于,利用条件随机场crf模型获取文本中的实体。

    本发明实施例提供的任务型对话文本增强系统,具有以下有益效果:

    引入多种数据增强方案优化任务型对话系统的自然语言理解,缓解了训练数据不足的问题,能够优化任务型对话系统的性能。

    具体实施方式

    以下结合具体实施例对本发明作具体的介绍。

    本发明提供的实施例提供的任务型对话文本增强系统,包括同义词替换模块、近义词替换模块、实体替换模块、噪声注入模块、文本混合模块,其中:

    同义词替换模块用于用文本中各个词的同义词替换对应的词,生成第一训练数据。

    作为一个具体的实施例,将文本“北大是我国一个美丽、优秀的高等学府”改为“北京大学是我国一个美丽、优秀的高等学府”。

    近义词替换模块用于用文本中各个词的近义词替换对应的词,生成第二训练数据。

    作为一个具体的实施例,将文本“我今天非常开心”改为“我今天非常高兴”。

    实体替换模块用于用文本中与各个实体类型相同的实体替换对应的实体,生成第三训练数据。

    其中,实体主要包括人名、地名和机构名称。作为一个具体的实施例,将文本“我在上地信息产业基地上班”改为“我在中关村科技园区上班”,其中,上地信息产业基地属于中关村科技园区。

    噪声注入模块用于置空、交换、增加、删除文本的词,生成第四训练数据。

    其中,置空的

    文本混合模块用于混合第一训练数据、第二训练数据、第三训练数据、第四训练数据,得到第五训练数据。

    可选地,文本混合模块具体用于:

    利用mixup算法,混合所述第一训练数据、所述第二训练数据、第三训练数据、第四训练数据。

    其中,具体过程为随机抽取两个句子,将它们进行零填充,然后按一定比例组合,产生新的词表示然后传递下游的文本分类任务。

    可选地,所述近义词替换模块还用于利用训练过的word2vec模型及训练过的glove模型,获取文本中各个词的近义词。

    可选地,所述实体替换模块还用于,利用条件随机场crf模型获取文本中的实体。

    本发明实施例提供的任务型对话文本增强系统,包括同义词替换模块、近义词替换模块、实体替换模块、噪声注入模块、文本混合模块,其中,同义词替换模块用于用文本中各个词的同义词替换对应的词,生成第一训练数据;近义词替换模块用于用文本中各个词的近义词替换对应的词,生成第二训练数据;实体替换模块用于用文本中与各个实体类型相同的实体替换对应的实体,生成第三训练数据;噪声注入模块用于置空、交换、增加、删除文本的词,生成第四训练数据;文本混合模块用于混合第一训练数据、第二训练数据、第三训练数据、第四训练数据,得到第五训练数据,缓解了训练数据不足的问题,实现了进一步优化任务型对话系统的性能。

    在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。

    可以理解的是,上述方法及装置中的相关特征可以相互参考。

    所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

    在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

    此外,存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(ram)和/或非易失性内存等形式,如只读存储器(rom)或闪存(flashram),存储器包括至少一个存储芯片。

    本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

    在一个典型的配置中,计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。

    存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(ram)和/或非易失性内存等形式,如只读存储器(rom)或闪存(flashram)。存储器是计算机可读介质的示例。

    计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitorymedia),如调制的数据信号和载波。

    还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

    本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

    以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。


    技术特征:

    1.一种任务型对话文本增强系统,其特征在于,包括:同义词替换模块、近义词替换模块、实体替换模块、噪声注入模块、文本混合模块,其中:

    所述同义词替换模块,用于用文本中各个词的同义词替换对应的词,生成第一训练数据;

    所述近义词替换模块,用于用文本中各个词的近义词替换对应的词,生成第二训练数据;

    所述实体替换模块,用于用文本中与各个实体类型相同的实体替换对应的实体,生成第三训练数据;

    所述噪声注入模块,用于置空、交换、增加、删除文本的词,生成第四训练数据;

    所述文本混合模块,用于混合所述第一训练数据、所述第二训练数据、所述第三训练数据、所述第四训练数据,得到第五训练数据。

    2.根据权利要求1所述的任务型对话文本增强方法,其特征在于,所述文本混合模块,具体用于:

    利用mixup算法,混合所述第一训练数据、所述第二训练数据、所述第三训练数据、所述第四训练数据。

    3.根据权利要求1所述的任务型对话文本增强方法,其特征在于,所述近义词替换模块还用于利用训练过的word2vec模型及训练过的glove模型,获取文本中各个词的近义词。

    4.根据权利要求1所述的任务型对话文本增强方法,其特征在于,所述实体替换模块还用于,利用条件随机场crf模型获取文本中的实体。

    技术总结
    本发明公开的任务型对话文本增强系统,涉及文本处理技术领域,包括同义词替换模块、近义词替换模块、实体替换模块、噪声注入模块、文本混合模块,其中,同义词替换模块用于用文本中各个词的同义词替换对应的词,生成第一训练数据;近义词替换模块用于用文本中各个词的近义词替换对应的词,生成第二训练数据;实体替换模块用于用文本中与各个实体类型相同的实体替换对应的实体,生成第三训练数据;噪声注入模块用于置空、交换、增加、删除文本的词,生成第四训练数据;文本混合模块用于混合第一训练数据、第二训练数据、第三训练数据、第四训练数据,得到第五训练数据,缓解了训练数据不足的问题,实现了进一步优化任务型对话系统的性能。

    技术研发人员:周昉昉;郑颖龙;刘佳木;赖蔚蔚;吴广财;郑杰生;林嘉鑫;叶杭
    受保护的技术使用者:广东电力信息科技有限公司
    技术研发日:2020.11.18
    技术公布日:2021.03.12

    转载请注明原文地址:https://wp.8miu.com/read-19073.html

    最新回复(0)