递进识别嘲讽的人工智能治理方法和机器人

    专利2025-07-27  48


    本发明涉及人工智能,特别是涉及一种递进识别嘲讽的人工智能治理方法和机器人。


    背景技术:

    1、嘲讽的现有定义是“用比喻、夸张等手法对人或事进行揭露、批评或嘲笑”。

    2、在实现本发明过程中,发明人发现现有技术中至少存在如下问题:网络内容中如果包含嘲讽的内容,会把各种不良情绪传导给网民,但现有的人工审核也不会审核嘲讽的内容,从而使得这部分不良内容成为了漏网之鱼,而影响社会的团结稳定。而且网络内容非常繁多,人工往往无法全面地审核,所以需要先通过人工智能进行审核,挑选出嫌疑的言论,再由人工进行复核,就能提高审核的速度和效率。

    3、因此,现有技术还有待于改进和发展。


    技术实现思路

    1、基于此,有必要针对现有技术的缺陷或不足,提供递进识别嘲讽的人工智能治理方法和机器人,能循序渐进地识别出嘲讽语句和嘲讽类型,为治理网络内容中的嘲讽内容提供依据。

    2、第一方面,本发明实施例提供一种人工智能治理方法,所述方法包括:

    3、嘲讽语句检测步骤:将待识别的网络内容中比喻夸张的每一语句作为比喻夸张褒贬识别深度学习模型的输入,计算得到的输出作为该每一语句的褒贬类型,若该每一语句的褒贬类型为贬义,则该每一语句为嘲讽语句;

    4、嘲讽类型检测步骤:将待识别的网络内容中嘲讽语句中每一语句、该每一语句中的对象类别、嘲讽的对象集合、嘲讽的类型集合作为嘲讽类型识别深度学习模型的输入,计算得到的输出作为该每一语句的嘲讽类型。

    5、优选地,所述方法还包括:

    6、比喻夸张语句检测步骤:将待识别的网络内容、比喻夸张的词语集合作为比喻夸张词语识别深度学习模型的输入,计算得到的输出作为该网络内容中含有的比喻夸张的词语及其所在位置;根据该网络内容中含有的比喻夸张的词语及其所在位置,从该网络内容中提取该词语所在语句作为该网络内容中比喻夸张的语句;

    7、对象类型检测步骤:将待识别的网络内容中比喻夸张的每一语句作为对象类别识别深度学习模型的输入,计算得到的输出作为该每一语句中的对象类别。

    8、优选地,所述方法还包括:

    9、嘲讽内容治理步骤:将待识别的网络内容的嘲讽语句中每一语句及其嘲讽类型发送给待识别的网络内容的生产者和平台,并发送信息提醒生产者和平台进行治理。

    10、优选地,所述方法还包括:

    11、嘲讽内容修改模型使用步骤:将待识别的网络内容、所述网络内容中的嘲讽语句作为输入,通过嘲讽内容修改模型计算得到的输出作为修改所述嘲讽语句为非嘲讽语句后的网络内容。

    12、第二方面,本发明实施例提供一种人工智能治理系统,所述系统包括:

    13、嘲讽语句检测模块:将待识别的网络内容中比喻夸张的每一语句作为比喻夸张褒贬识别深度学习模型的输入,计算得到的输出作为该每一语句的褒贬类型,若该每一语句的褒贬类型为贬义,则该每一语句为嘲讽语句;

    14、嘲讽类型检测模块:将待识别的网络内容中嘲讽语句中每一语句、该每一语句中的对象类别、嘲讽的对象集合、嘲讽的类型集合作为嘲讽类型识别深度学习模型的输入,计算得到的输出作为该每一语句的嘲讽类型。

    15、优选地,所述系统还包括:

    16、比喻夸张语句检测模块:将待识别的网络内容、比喻夸张的词语集合作为比喻夸张词语识别深度学习模型的输入,计算得到的输出作为该网络内容中含有的比喻夸张的词语及其所在位置;根据该网络内容中含有的比喻夸张的词语及其所在位置,从该网络内容中提取该词语所在语句作为该网络内容中比喻夸张的语句;

    17、比喻夸张对象获取模块:将待识别的网络内容中比喻夸张的每一语句作为对象类别识别深度学习模型的输入,计算得到的输出作为该每一语句中的对象类别。

    18、优选地,所述系统还包括:

    19、嘲讽内容治理模块:将待识别的网络内容的嘲讽语句中每一语句及其嘲讽类型发送给待识别的网络内容的生产者和平台,并发送信息提醒生产者和平台进行治理。

    20、优选地,所述系统还包括:

    21、嘲讽内容修改模型使用模块:将待识别的网络内容、所述网络内容中的嘲讽语句作为输入,通过嘲讽内容修改模型计算得到的输出作为修改所述嘲讽语句为非嘲讽语句后的网络内容。

    22、第三方面,本发明实施例提供一种人工智能治理装置,所述装置包括第二方面实施例任意一项所述系统的模块。

    23、第四方面,本发明实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。

    24、第五方面,本发明实施例提供一种机器人,包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序,所述处理器执行所述程序时实现第一方面实施例任意一项所述方法的步骤。

    25、本实施例提供的递进识别嘲讽的人工智能治理方法和机器人,通过人工智能治理网络内容中的嘲讽内容,基于人工智能模型,首先识别比喻夸张语句,然后判别这个语句是褒义还是贬义,若是贬义,则属于嘲讽,并进一步识别嘲讽的类型,从而层层递进地实现对嘲讽内容的识别,能够提高对嘲讽内容识别的准确率,进而实现对嘲讽内容的治理。



    技术特征:

    1.一种人工智能治理治理方法,其特征在于,所述方法包括:

    2.根据权利要求1所述的人工智能治理方法,其特征在于,所述方法还包括:

    3.根据权利要求2所述的人工智能治理方法,其特征在于,所述方法还包括:

    4.根据权利要求2所述的人工智能治理方法,其特征在于,所述方法还包括:

    5.一种人工智能治理治理系统,其特征在于,所述系统包括:

    6.根据权利要求5所述的人工智能治理系统,其特征在于,所述系统还包括:

    7.根据权利要求5所述的人工智能治理系统,其特征在于,所述系统还包括:

    8.根据权利要求5所述的人工智能治理系统,其特征在于,所述系统还包括:

    9.一种机器人,包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序,其特征在于,所述处理器执行所述程序时实现权利要求1-4任意一项所述方法的步骤。

    10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1-4任意一项所述方法的步骤。


    技术总结
    递进识别嘲讽的人工智能治理方法和机器人,通过人工智能治理网络内容中的嘲讽内容,基于人工智能模型,首先识别比喻夸张语句,然后判别这个语句是褒义还是贬义,若是贬义,则属于嘲讽,并进一步识别嘲讽的类型,从而层层递进地实现对嘲讽内容的识别,能够提高对嘲讽内容识别的准确率,进而实现对嘲讽内容的治理。

    技术研发人员:朱定局
    受保护的技术使用者:华南师范大学
    技术研发日:
    技术公布日:2024/4/29
    转载请注明原文地址:https://wp.8miu.com/read-90051.html

    最新回复(0)