基于文本-知识扩展图协同推理网络的问答方法及系统
成果类型:: 发明专利
发布时间: 2023-12-29 14:17:41
本发明涉及一种基于文本 知识扩展图协同推理网络的问答方法及系统,该方法包括以下步骤:步骤A:在问答平台中收集用户的问题以及回答记录,并标注每一个问题 答案对的真实标签,以此构建训练集DS;步骤B:使用训练集DS以及知识图谱,训练基于文本 知识扩展图协同推理网络的深度学习网络模型M,以通过模型M来分析给定问题并给出相对应的答案;步骤C:将用户的问题输入到训练好的深度学习网络模型M中,输出匹配的答案。该方法及系统有利于提高对给定问题选择答案的准确性。
本发明采用的技术方案是:一种基于文本-知识扩展图协同推理网络的问答方法,包括以下步骤:步骤A:在问答平台中收集用户的问题以及回答记录,并标注每一个问题-答案对的真实标签,以此构建训练集DS;步骤B:使用训练集DS以及知识图谱,训练基于文本-知识扩展图协同推理网络的深度学习网络模型M,以通过模型M来分析给定问题并给出相对应的答案;步骤C:将用户的问题输入到训练好的深度学习网络模型M中,输出匹配的答案。
答案选择是智能问答领域的一个重要子任务,旨在利用算法使得计算机能够理解人们输入的问题语义并返回最合适的候选答案,该任务的核心在于问答对之间的语义匹配问题。随着互联网科技水平的提高,通过访问互联网获取知识的方式也在不断的发生改变。从1994年雅虎推出世界上第一个基于目录的检索引擎,为人们提供了一个便捷的方式从互联网获取所需的知识开始,在接下来的二十年里,谷歌、百度、Bing等在线搜索引擎如春笋般涌现。通过问答检索框,人们可以查询到自己想要的问题答案。但是,由于人们对于获取信息的需求日益增长,传统的搜索引擎通过问题关键字匹配来检索相关答案并返回给用户的方式很容易出现信息过载、搜索结果不准确等问题,越来越难以满足用户对于具体问题的解答以及深入交流的需求。
近年来,基于深度学习尤其是基于预训练语言模型的模型方法凭借其端对端的训练和强大的特征提取能力广泛的应用于答案选择任务。通过海量的无标注文本,预训练能够帮助模型学习到潜在的通用语言表征。并且只需要在预训练语言模型的输出之后增加特定的网络层与分类层,并对模型局部微调,便可以直接作用于NLP下游任务,避免了重新训练整个模型,造成资源浪费。目前,研究人员便将研究的重心转移至使用预训练语言模型应用于答案选择任务,提出了MFIN,BERT-GSAMN以及BERT-BIG等模型,这些模型的共同之处都是在利用预训练语言模型得到丰富语义信息的基础上,做进一步的精细语义特征的提取,均取得不错的效果。
基于知识图谱的答案选择研究工作也取得很多的进展,Yang等人提出一种知识丰富的层次化注意力机制。引入外部知识,语义特征引导生成知识特征,然后渐进式的生成词级、段落级、文档级别的语义特征和知识特征并进行交互融合,但是,知识图谱本质上可以抽象理解为一种图数据结构,依赖图谱中大量结构化知识实体间各种节点关系相连接,因此十分适用于图神经网络来进行知识图谱信息的捕获。同时,现有模型通常都是将文本语义表示和知识实体进行独立的建模,缺少知识与文本之间的交互,导致彼此之间的参数信息无法及时共享,使得文本,知识特征信息存在一定的语义鸿沟,影响模型精度。
发明人:陈羽中 万祯 郑超凡福州大学(Fuzhou University),简称福大,位于福建省福州市,创建于1958年,是国家“双一流”建设高校,国家“211工程”建设高校,国家教育部、国家国防科技工业局与福建省人民政府共建高校,福建省三所重点建设的高水平大学之一,福建省一流大学建设高校,入选国家建设高水平大学公派研究生项目、教育部首批“卓越工程师教育培养计划”高校、新工科研究与实践项目、数据中国“百校工程”项目、国家“111计划”、“高校国际化示范学院推进计划”、国家级大学生创新创业训练计划、全国首批深化创新创业教育改革示范高校、中国政府奖学金来华留学生接收院校、全国专业学位研究生教育综合改革试点单位、国家集成电路人才培养基地、首批高等学校科技成果转化和技术转移基地、高校国家知识产权信息服务中心。
与现有技术相比,本发明具有以下有益效果:提供了一种基于文本-知识扩展图协同推理网络的问答方法及系统,该方法及系统构建了基于文本-知识扩展图协同推理网络的深度学习网络模型来对输入的问题进行分析处理,以选择输出匹配的答案,提高了对给定问题选择对应答案的准确性,具有很强的实用性和广阔的应用前景。
当前专利未经权利人许可不得实施,希望将科技成果转让给研发实力雄厚的企业,由受让人对科技成果实施转化。交易的是科技成果中的知识产权,可以包括专利权、专利申请权、技术秘密等。科技成果转让后,转让方获得转让费,不再是科技成果的所有人;受让方向转让方支付转让费,并成为科技成果的新的所有人。