您所在的位置: 成果库 一种基于通道注意力的空间注意力计算方法

一种基于通道注意力的空间注意力计算方法

成果类型:: 发明专利

发布时间: 2026-05-18 10:14:37

科技成果产业化落地方案
方案提交机构:成果发布人| 徐景新 | 2026-05-18 10:14:38

本发明公开了一种基于通道注意力的空间注意力计算方法,涉及深度卷积神经网络技术领域,设计通道注意力模块前向推导出通道注意力图和通道细化特征图。本发明根据通道注意力图,双分支空间注意力模块将通道细化特征图的通道分组,分为重要通道和次重要通道。这使得空间注意力和通道注意力有机地联系起来。接着将分好的通道组进行一系列的非线性操作,进而获得一个二维空间注意力图。本发明使得空间注意力和通道注意力紧密有机的联系起来,便于嵌入到目前任意主流的深度卷积神经网络中,提升网络模型的性能表现。

该计算方法的创新在于“通道信息重标定”与“空间细节捕获”的交互融合。具体而言,首先利用全局平均池化获取通道维度描述,经过多层感知机生成通道注意力向量,将其与原始特征图相乘得到通道增强特征。接着,对增强特征进行降维与卷积操作,生成该通道流引导下的空间注意力图,实现了通道视角下对空间区域的协同筛选。该方法仅增加少量计算成本,即可迫使网络关注到真正有判别力的稀疏区域。

该方法可广泛嵌入各类卷积神经网络中,用于提升视觉任务如细粒度图像分类、弱监督目标定位及无人机航拍目标识别等。特别适用于计算资源受限但需要精准定位的移动端应用,例如智能手机中的植物或商品识别。随着边缘计算设备对高精度轻型网络需求的增长,该技术可作为即插即用模块替换原有注意力机制,易集成于现有的深度学习框架之中,具备极佳的工程应用潜力。

燕山大学坐落于河北省秦皇岛市,是一所以工学为主,文学、理学、经济学、管理学、法学、艺术学、教育学等多学科协调发展的全国重点大学。学校源于哈尔滨工业大学,始建于1920年,1960年独立办学定名为东北重型机械学院,1997年整体南迁至秦皇岛并更名为燕山大学。学校是河北省人民政府、教育部、工业和信息化部、国家国防科技工业局四方共建高校,拥有雄厚的师资力量和科研实力,特别是在机械工程、材料科学与工程等学科领域享有盛誉,为国家培养了大批高素质人才。

本成果带来的效益显著。性能增益上,无需求大幅修改网络结构,即可为现有模型带来1-3个百分点的精度提升,显著提升已有系统的识别准确性。开发效率上,封装为通用模块后,算法工程师无需手动设计特定任务的注意力分支,缩短了研发周期。经济成本上,减少了训练高性能模型所需的迭代次数与数据量,降低了算力资源和标注成本。产业层面,推动了轻量化注意力机制研究的实用化进程,对发展高效人工智能模型具有普遍价值。

技术转让,许可,合作所需资金需双方协商,此项技术想尽快落地,希望具备此项技术研发的技术方,能够尽快承接此项目。