您所在的位置: 成果库 基于大模型幻觉治理的可控文本生成与反思式知识推理技术研究及示范应用

基于大模型幻觉治理的可控文本生成与反思式知识推理技术研究及示范应用

发布时间: 2025-08-07

基本信息

合作方式： 技术转让
成果类型： 发明专利
行业领域：
电子信息技术,计算机及网络技术
成果介绍
针对当前语言大模型存在的写得有错、推理不准、跨模态语义对得不齐的问题，课题组开展面向大模型幻觉治理的可控文本生成与反思式知识推理技术研究。在大模型幻觉治理方面，全面梳理大模型幻觉模式集，分析总结幻觉成因，通过实验验证性别年龄等社会偏见与忠实性幻觉之间的因果关系。在知识推理方面，针对法律咨询、政务服务等典型应用场景中的知识检索与推理的实际需求，整理标注相关数据集，设计实现基于“规划—推理”的复杂问题分析与解答方法，构建基于多智能体回溯验证的知识检索与推理工具。在多模态方面，基于启发式视觉提示生成框架，实现更精准的特征对齐，赋予大模型对视觉语义的理解和对齐能力；基于蒸馏的文本视觉对齐方法，帮助模型更好地进行视觉语义对齐。
成果亮点
本课题的关键性技术指标包括：1）大模型生成内容的事实一致性检测与控制技术：研制大模型生成内容的事实一致性检测工具1套；支持不少于2种开源大模型（如LLaMA等）；面向实体描述生成任务的事实准确性提升10%以上；2）融合常识与领域知识的大模型推理技术：研制反思式大模型推理工具1套；支持不少于2种开源大模型（如LLaMA等）；在GAOKAO 多学科综合性评测上的平均准确率达到0.5以上；3）基于视觉语义对齐的跨模态推理技术：研制视觉—文本语义对齐工具1套；支持不少于2种开源大模型（如LLaMA等）；在卡耐基梅隆大学提出的OK-VQA 数据集上，基于下游任务视觉问答（VQA）的准确率达到70%。
团队介绍
北京航空航天大学（Beihang University），简称北航（BUAA），位于中国首都北京市，隶属于中华人民共和国工业和信息化部，中央直管高校，中国第一所航空航天高等学府，具有航空、航天和信息领域的发展比较优势。是国家重点建设的高校、全国第一批16所重点高校之一、211工程、985工程建设高校、国家“双一流”建设高校。
成果资料