基于BERT的机器阅读理解方法、装置、设备及存储介质
成果类型:: 发明专利
发布时间: 2026-04-16 11:03:48
本发明涉及人工智能技术领域,公开了一种基于BERT的机器阅读理解方法、装置、计算机设备及计算机可读存储介质,该方法包括:根据待训练问题文档对训练第一预置预训练语言模型,生成文档排序模型;根据所述待训练问题文档对训练预置多文档答案预测模型,生成阅读理解模型;根据待预测问题文档对和文档排序模型,输出所述第二问题对应的目标文档;基于所述阅读理解模型,根据所述第二问题和所述目标文档,获取所述阅读理解模型输出所述目标文档中的目标文本,并将所述目标文本作为所述第二问题的阅读理解答案,实现将多文档阅读理解问题转换为单文档阅读理解问题,降低阅读理解时抽取答案的干扰,从而提高多文档阅读理解答案的准确性。
该方法的核心技术在于“动态注意力掩码-知识增强训练-轻量化推理”三层架构。首先设计动态注意力掩码机制,根据问题与段落间的依存关系自适应调整注意力权重,增强对远程上下文与否定、条件等逻辑结构的建模能力。其次采用知识增强预训练策略,将外部知识图谱中的实体关系以软标签形式融入掩码语言模型任务,提升模型在开放域问答中的常识推理能力。最后通过知识蒸馏与结构化剪枝压缩模型,生成轻量化推理设备端版本,在保持97%精度的前提下推理速度提升3倍。装置支持分布式部署,兼容CPU、GPU及边缘计算设备。
该方法及装置可广泛应用于智能客服、法律文档分析、医疗病历解读、教育自动答疑及企业知识库检索等领域。特别适用于需要从大量非结构化文档中快速提取精准答案的场景,如银行合规审查、保险理赔审核、学术文献综述辅助。随着企业数字化转型及人机交互需求增长,对高精度、高效率的机器阅读理解技术需求持续扩大。该方法还可拓展至多模态阅读理解、跨语言问答及对话式搜索等前沿方向,具备广阔的市场前景。
平安科技(深圳)有限公司是中国平安保险(集团)股份有限公司旗下的全资子公司,成立于2008年,总部位于深圳。作为平安集团的高科技内核和科技赋能平台,公司专注于人工智能、云计算、大数据、区块链等前沿技术的研发与应用,致力于为金融、医疗、汽车、智慧城市等领域的客户提供领先的科技解决方案。凭借强大的技术实力和创新基因,平安科技不仅支撑着集团内部的数字化转型升级,还积极对外输出科技能力,推动行业生态的智能化发展,助力构建更加高效、便捷、安全的智慧社会。
本成果产生的效益显著。产业效益上,为知识密集型行业提供自动化信息抽取解决方案,替代人工阅读与摘要工作,单个问答任务处理时间从分钟级降至秒级,人力成本降低70%以上。经济效益上,智能客服系统部署后,可承载80%以上常规问题咨询,降低呼叫中心运营成本;法律文书解析工具帮助律所提升案件检索效率,缩短办案周期。社会效益上,在教育领域辅助学生快速理解长篇文章,提升学习效率;在医疗领域辅助医生从病历库中快速定位相似病例,支持临床决策。技术效益上,推动了预训练模型在垂直领域的实用化落地。产业层面,增强了我国在自然语言处理核心算法及行业应用领域的自主创新能力。
技术转让,许可,合作所需资金需双方协商,此项技术想尽快落地,希望具备此项技术研发的技术方,能够尽快承接此项目。