您所在的位置: 成果库 一种应用于复杂背景场景的快速运动手势识别方法

一种应用于复杂背景场景的快速运动手势识别方法

成果类型:: 发明专利

发布时间: 2022-02-17 12:16:45

科技成果产业化落地方案
方案提交机构:江苏无锡市| 朱建萍 | 2022-12-27 16:07:24

 本发明公开了一种应用于复杂背景场景的快速运动手势识别方法,包括采集手势动作视频,通过去除YCrCb模式下的图像的亮度干扰,并转换为灰度模式图像进行手势分割,并输入到深度置信网络中进行训练;和手机采集手势视频,获得手势轮廓图像通过深度置信网络实现手势识别的手势判断的步骤。因此,本发明运算速度较快,易于在复杂背景下识别快速运动的物体。深度置信网络作为一种深度学习模型,在特征选择与特征学习方面有着显著的优势,并能够进行分类特征学习,充分挖掘灰度求和图像的特征信息。

本发明目的在于针对现有基于机器学习的手势交互方法的缺陷,提供一种运算速度较快,应用于复杂背景场景的快速运动手势识别方法。

本发明为实现上述目的,采用如下技术方案:

一种应用于复杂背景场景的快速运动手势识别方法,其特征在于包括下述步骤:

 (1)训练神经网络:

 1.1从视频库中获取一段手势动作帧序列,假设总帧数为n;

1.2获取第i帧图像Ii转换为YCrCb色彩模型,对原图像每个像素点,执行以下公式运算,得到每个像素点的Y、Cr、Cb通道值:

[0011]

 其中R、G、B分别表示像素点的红绿蓝通道值;

 1.3在YCrCb模式下的图像Ii去掉Y通道内容,以Cr通道信息为主,Cb通道信息为辅,把Cr,Cb通道合并为一个通道图像Iig,公式如下值:

 Iig=α*Cr+(1-α)*Cb

其中α=0.92;

1.4通过以下公式计算出图像Iig的均值μig和方差σig:



 1.5参照一维正态分布的概率密度分布表,得到在[μ-2.9δ,μ+2.9δ]范围内的概率非常接近1,将像素值处于该范围内的像素点看作肤色点,执行以下公式把图像变成灰度图像Iib:


 1.6如果第i帧是最后一帧,则执行步骤1.7,否则,则i=i+1,跳转到步骤1.2;

1.7对所有灰度图像Iib执行通道求和操作,得到求和图像Ib

1.8把图像Ib输入到深度置信网络中进行训练,输入下个视频,跳转到步骤1.1;

1.9对训练库里的所有视频执行步骤1.1-1.7后,得到训练好的神经网络;

(2)手势判断:

2.1通过摄像头拍摄获取到一段手势动作帧序列,假设总帧数为n;

2.2执行训练神经网络步骤中的1.2-1.7步骤,得到图像S;

2.3把图像S输入到训练好的深度置信网络中,判断出输入的手势动作属性什么类型手势;

2.4输出结果,进行相应手势操作。

其进一步特征在于:在步骤1.1和步骤1.2之间对图像Ii进项中值滤波去噪操作,提高鲁棒性。

所述步骤1.3中α值根据1000张图像测试得到。

人机交互的发展过程就是从人适应计算机到计算机逐步适应人的过程,人机交互的发展经历了早期的手工操作阶段、作业控制语言及交互命令语言阶段、图形用户界面(GUI)阶段、网络用户界面阶段、多通道与多媒体智能人机交互阶段。手作为身体上最灵活的部位,是最早用来进行人与人之间肢体交流的工具。动态手势识别是人机交互领域中的重要研究课题,具有重要的理论研究意义以及广泛的应用前景。

国外对基于视觉的动态手势识别技术的研究起步比较早,在该领域的研究中有着丰富的经验,并取得了一定的研究成果。***等人通过融合Camshift算法和Kalman滤波算法来提高动态手势跟踪的效果,然后对相应的动态手势轨迹特征进行提取,最后通过HMM算法识别数字0~9的轨迹,识别率达到95.87%。***-Rousan和***对动态手势识别做了深入研究,他们首先从视频中分割出手部,然后采用HMM模型对阿拉伯手语进行识别,最终该手势识别系统的在线识别率达到90.6%。***利用Hu矩和手势轨迹方向角作为特征进行提取,然后使用HMM算法进行手势轨迹的识别,提高了识别速度,并且平均识别率达到了90%以上。***等人利用HMM算法对手势轮廓的序列点进行判断分类,实现了9个不同角度手势的识别。华南理工大学的常亚南在经典HMM算法的基础上,提出了一种基于HMM的阈值模型的动态手势识别方法,最终完成了动态手势轨迹的识别,并且对典型动态手势轨迹的识别率达到97.87%。国内大连理工大学的杨青通过定位手势指尖的方法提取轨迹特征,最终利用HMM算法实现26个英文字母的动态手势轨迹的识别,其识别率可达85%以上。电子科技大学的杜晓川提出了一种基于外接椭圆中心距离的跟踪算法,并通过HMM算法进行轨迹的识别,平均识别率达到87%。中科院自动化研究所的单彩峰等人开发出了基于动态手势识别的智能轮椅控制系统,通过改进的粒子滤波算法实现对动态手势的实时跟踪,并在提取动态手势轨迹特征后,利用训练好的手势轨迹模型对待识别手势轨迹进行识别,最后将识别结果转化为控制轮椅的指令,从而实现对轮椅的运动控制。近年来,随着人工智能、模式识别、机器学习技术的快速发展。越来越多手势识别方法应用了人工神经网络和SVM等技术。马风力提出了一种基于MLP神经网络的手势识别方法。

当前权利人:江南大学 发明(设计)人:杨滨;江南大学是教育部直属、国家“211工程”重点建设高校和“双一流”建设高校。学校具有悠久的办学历史、厚重的文化积淀,源起1902年创建的三江师范学堂,历经国立中央大学、南京大学等发展时期;1958年南京工学院食品工业系整建制东迁无锡独立建校,成立无锡轻工业学院;1962年无锡纺织工学院并入无锡轻工业学院;1995年更名为无锡轻工大学;2001年无锡轻工大学、江南学院、无锡教育学院合并组建江南大学;2003年东华大学无锡校区并入江南大学。

本发明通过去除YCrCb模式下的图像的亮度干扰,并转换为灰度模式图像进行手势分割。因此运算速度较快,易于在复杂背景下识别快速运动的物体。深度置信网络作为一种深度学习模型,在特征选择与特征学习方面有着显著的优势,并能够进行分类特征学习,充分挖掘灰度求和图像的特征信息。

科技成果只有通过实施开发应用,使其转化为生产力,才能取得经济效益和社会效益。成果方目标是将科技成果转化为现实生产力,期待有意愿的企业或合作单位进行合作推广或者进行产品生产。考虑合作转化、许可+合作等转化方式与企业、科学技术研究开发机构和其他组织建立合作关系。