您所在的位置: 成果库 一种基于知识蒸馏的高精度轻量化桥梁裂缝识别方法

一种基于知识蒸馏的高精度轻量化桥梁裂缝识别方法

成果类型:: 发明专利

发布时间: 2023-12-08 16:47:49

科技成果产业化落地方案
方案提交机构:成果发布人| 黄哲芬 | 2023-12-08 16:47:49

本发明涉及结构监测技术领域,特别是一种基于知识蒸馏的高精度轻量化桥梁裂缝识别方法。提供一种基于知识蒸馏的高精度轻量化桥梁裂缝识别方法,可以大大提升轻量化网络对裂缝识别的准确率,采用所发明的基于知识蒸馏的训练策略能够快速准确地识别出桥梁结构表观裂缝并在在移动端设备上进行部署应用,减少了人工检查成本,极大提高了检测效率。

本发明采用如下技术方案:一种基于知识蒸馏的高精度轻量化桥梁裂缝识别方法,包括以下步骤:步骤1,数据集准备;构建带标签自建数据集T和无标签数据集XU;步骤2,教师网络模型的训练;将步骤1中自建数据集T以6:2:2分为训练集、验证集和测试集以获得准确率最高的教师模型;步骤3,学生网络模型的训练;采用半监督标签知识蒸馏方案BCSLD使用教师模型指导学生模型进行学习,构建高精度轻量化的识别模型;步骤4,模型的部署;将训练得到的高精度轻量化的识别模型部署至嵌入式设备,连接摄像头并安置在无人机上,实现对桥梁结构裂缝实时智能检测识别的任务。

随着社会快速发展,沟通加剧、各类重载交通工具数量成倍的增加,这对桥梁在服役期内的适用性和耐久性提出了更高的要求。全国现有公路桥梁已超96万座,而其中大量桥梁服役已超过二三十年,这表明我国交通基础设施发展需求正逐渐向养护管理转变,在役桥梁工程结构的诊治和提升将成为行业的重要任务。而现阶段桥梁检测主要依靠桥检车作业和人力作业,桥梁状况的评估主要依赖于技术人员的经验判断。但由于检测过程主要依靠人眼观察为主,且需要多人作业,因此在检测效率和精度上都难以满足现有基础设施的常规检查。对于中大桥梁检测,往往还需要检测人员搭建支架或使用桥检车到桥梁侧面和底部进行检测,其成本往往居高不下且检测人员面临巨大安全风险。因此,利用现有技术和设备实现对以裂缝为代表的结构损伤智能化、自动化识别已成为行业的重要任务。

卷积神经网络(CNN)近年来在结构工程损伤识别领域得到广泛应用,CNN的成功主要伴随着现代并行计算设备(如GPU)的流行和大量标注数据集的可用。前者使CNN的快速推理变得可行,而后者使训练大型CNN模型成为可能。如何在不增加大量额外计算代价的情况下,或者在不进行大量人工数据标注的情况下,进一步提高基础CNN或通用CNN的性能,成为关键的研究课题。大型的分类网络往往需要大量的参数来达到高精度的分类结果。这些参数数量巨大,消耗大量内存和算力,这使得它们难以在资源有限的设备(如嵌入式系统或移动设备)上部署,限制了其在实际应用中的推广。

发明人:范千 谭云华 夏樟华 朱三凡福州大学(Fuzhou University),简称福大,位于福建省福州市,创建于1958年,是国家“双一流”建设高校,国家“211工程”建设高校,国家教育部、国家国防科技工业局与福建省人民政府共建高校,福建省三所重点建设的高水平大学之一,福建省一流大学建设高校,入选国家建设高水平大学公派研究生项目、教育部首批“卓越工程师教育培养计划”高校、新工科研究与实践项目、数据中国“百校工程”项目、国家“111计划”、“高校国际化示范学院推进计划”、国家级大学生创新创业训练计划、全国首批深化创新创业教育改革示范高校、中国政府奖学金来华留学生接收院校、全国专业学位研究生教育综合改革试点单位、国家集成电路人才培养基地、首批高等学校科技成果转化和技术转移基地、高校国家知识产权信息服务中心。

与现有技术相比,本发明具有以下有益效果:本发明提出的知识蒸馏方案有效地利用了自建数据集和未标记数据集,将教师模型的知识转移给学生模型,提高了学生模型的分类精度。根据实验结果,本发明提出的知识蒸馏方案使得学生模型MobileNetv3实现了高精度训练,达到了和教师网络ResNeXt101接近的精度(-0.08%)。由于MobileNetv3自身轻量化结构带来的极快的推理速度(8.38ms/pic)以及通过知识蒸馏方案收获的高精度平均识别准确率(超《公路路面技术状况自动化检测规程》识别准确率要求9.35%),达到了工程的可用性。且该模型需要的参数和计算资源远远少于传统的深度学习模型,因此,该模型有可能使裂缝检测系统部署在广泛的移动端设备上以改善桥梁基础设施的安全检测和评估的成本。

当前专利未经权利人许可不得实施,希望将科技成果转让给研发实力雄厚的企业,由受让人对科技成果实施转化。交易的是科技成果中的知识产权,可以包括专利权、专利申请权、技术秘密等。科技成果转让后,转让方获得转让费,不再是科技成果的所有人;受让方向转让方支付转让费,并成为科技成果的新的所有人。