本发明涉及一种基于知识增强与句法引导的对话状态追踪方法及系统,该方法包括以下步骤:步骤A:采集对话上下文和对话状态数据,构建对话训练集;步骤B:使用训练集训练基于上下文知识增强与句法指导的深度学习网络模型;步骤C:将用户与系统的对话数据输入训练好的深度学习网络模型,并输出当前的对话状态。该方法及系统有利于提高对话状态追踪的准确性。

本发明采用的技术方案是：一种基于知识增强与句法引导的对话状态追踪方法，包括以下步骤：

步骤A：采集对话上下文和对话状态数据，构建对话训练集TS；

步骤B：使用训练集TS训练基于上下文知识增强与句法指导的深度学习网络模型G；

步骤C：将用户与系统的对话数据输入训练好的深度学习网络模型G，并输出当前的对话状态。

对话状态追踪(Dialogue State Track，DST)，是自然语言处理中任务型对话任务流程中的一个重要组成部分，其基本目标是在对话的每一轮，从系统回复和用户话语中抽取相关信息更新对话状态。对话状态是从对话开始到当前对话的用户目标的总结，通常表现为多组槽-值对的组合的形式，有时也会包括对话所属的领域、用户意图等信息。对话状态跟踪是指结合对话历史、当前对话、前一轮对话状态等信息，推断并更新当前对话状态的过程。随着信息技术发展的不断进步使人们能够在任何时间、地点以无线连接的方式几乎瞬时地访问信息、应用程序和服务。如今，诸如智能手机和平板电脑已经被广泛地用于访问网络。

在深度学习兴起之前，早期对话系统的DST模块都是采用基于规则的方法，它不需要训练数据，直接使用人工规则对对话状态进行更新。然而，基于规则的方法也存在一些限制。由于手动总结规则的能力受到限制，这些方法往往难以覆盖所有的对话情况，可能会导致较低的泛化能力和高错误率。此外，当需要对不同的对话场景进行适应时，需要重新设计和手动更新规则，这种方法的可扩展性也受到限制。

近年来，深度学习方法在自然语言处理的多个领域获得了广泛的应用。首先，深度学习方法能够自动提取自然语言文本中的特征，能够有效地解决基于规则和统计方法中面临的特征工程难题。其次，深度学习方法具有非常强大的建模能力，能够更好地应对现实生活中复杂的自然语言表达和多种多样的对话场景。有鉴于此，越来越多的研究开始尝试使用深度学习方法研究对话状态追踪任务，并取得了显著的成果。预训练语言模型的提出与发展深受工业界和学术界的广泛关注，许多预训练语言模型如BERT、ALBERT和GPT等在应用于下游任务时表现出不凡的效果。有鉴于此，DST的研究已经转移到在这些强大的预训练语言模型的基础上构建新的模型。

但是，上述方案都仅仅利用了预训练模型对上下文进行简单的编码，并没有对上下文中的关键信息以及上下文的句法结构进行建模。然而，槽位的值有非常大的概率来自这些关键信息，句法结构对于模型提取关键信息的能力也非常有帮助。因此，本发明提出的基于上下文实体知识增强与句法指导注意力的对话状态追踪模型可以有效解决上述问题。

发明人：陈羽中 林宇航

福州大学（Fuzhou University），简称福大，位于福建省福州市，创建于1958年，是国家“双一流”建设高校，国家“211工程”建设高校，国家教育部、国家国防科技工业局与福建省人民政府共建高校，福建省三所重点建设的高水平大学之一，福建省一流大学建设高校，入选国家建设高水平大学公派研究生项目、教育部首批“卓越工程师教育培养计划”高校、新工科研究与实践项目、数据中国“百校工程”项目、国家“111计划”、“高校国际化示范学院推进计划”、国家级大学生创新创业训练计划、全国首批深化创新创业教育改革示范高校、中国政府奖学金来华留学生接收院校、全国专业学位研究生教育综合改革试点单位、国家集成电路人才培养基地、首批高等学校科技成果转化和技术转移基地、高校国家知识产权信息服务中心。

与现有技术相比，本发明具有以下有益效果：提供了一种基于知识增强与句法引导的对话状态追踪方法及系统，该方法及系统通过构建基于上下文知识增强与句法指导的深度学习网络模型，对对话上下文和对话状态数据中特征进行实体知识增强与句法指导，进而对用户与系统的对话状态进行追踪，提高了对话状态追踪的准确性，具有很强的实用性和广阔的应用前景。

当前专利未经权利人许可不得实施，希望将科技成果转让给研发实力雄厚的企业，由受让人对科技成果实施转化。交易的是科技成果中的知识产权，可以包括专利权、专利申请权、技术秘密等。科技成果转让后，转让方获得转让费，不再是科技成果的所有人；受让方向转让方支付转让费，并成为科技成果的新的所有人。