科创中国
基于注意力机制的多模态信息融合识别方法及系统
发布时间: 2023-11-01
基本信息
合作方式：
技术服务
成果类型：
发明专利
行业领域：
电子信息技术
成果介绍
本发明涉及一种基于注意力机制的多模态信息融合识别方法及系统。该方法及系统首先对人体动作的RGB和depth视频帧序列进行压缩表示，生成整个视频的时空信息表示图；然后分别将RGB和depth的时空表示图输入双流深度卷积网络提取其高层语义特征；之后将这两种模态的特征输入注意力信息融合模块得到两个不同的多模态融合特征表示；最后将这两个多模态特征向量相加或拼接操作整合成一个特征向量，通过全连接层和softmax函数分类，得到待测视频中的所属动作类，能够有效地利用RGB和depth数据的互补信息，产生语义丰富的多模态特征表示，极大地提高人体动作识别的准确率和抗干扰能力。
成果亮点
一种基于注意力机制的多模态信息融合识别方法，其特征在于，包括以下步骤：
对人体动作的RGB和depth视频帧序列进行压缩表示，生成整个视频的时空信息表示图；
分别将RGB和depth的时空信息表示图输入双流深度卷积网络提取其高层语义特征；
将RGB和depth两种模态的高层语义特征进行注意力信息融合得到两个不同的多模态融合特征表示；
将两个多模态融合特征向量相加或拼接操作整合成一个特征向量，然后通过全连接层和softmax函数分类，得到待测视频中的所属动作类别。
团队介绍
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
成果资料
产业化落地方案
下载app