科创中国
应用在神经网络数据处理中的向量融合计算方法及装置
成果类型：: 发明专利
发布时间: 2023-10-30 15:42:30
科技成果产业化落地方案
方案提交机构：天津市滨海新区| 宋学姮 | 2023-11-08 15:11:04
本发明涉及神经网络领域，具体涉及一种应用在神经网络数据处理中的向量融合计算方法及装置，该方法及装置采用指令集控制的方式，将两种不同的Route算子和Shortcut算子在指令集中编码成不同的参数，通过状态机的方式控制系统的运行，指令集的SRAM存储网络各层的功能信息，然后在状态机的解码状态下对其进行解码，当解码出指令集的算子类型是Route或者Shortcut时，然后进行相应的算子处理。因为Route和Shortcut两个算子都是对网络层中的两个中间层进行数据处理，不管是进行拼接还是对应位置数据相加，都使得输出特征图的特征信息增加了，图片的后续处理精度都会得到提升。
.一种应用在神经网络数据处理中的向量融合计算方法，其特征在于，包括以下步骤：
采用指令集控制的方式，将两种不同的Route算子和Shortcut算子在指令集中编码成不同的参数；
通过状态机的方式控制系统的运行，指令集的SRAM存储网络各层的功能信息，然后在状态机的解码状态下对其进行解码；
当解码出指令集的算子类型是Route或者Shortcut时，然后进行相应的算子处理。
神经网络模型中的融合层 ：在神经网络的结构中，可以使用融合层（Fusion Layer）来实现不同向量的融合。这种层通常包括加法、乘法、拼接等操作。
处理器和硬件加速器 ：现代处理器和专用硬件加速器通常具有高度并行的计算能力，可以用于快速执行向量融合计算。这些硬件可以嵌入在服务器、移动设备或嵌入式系统中。
图形处理单元（GPU） ：GPU广泛用于深度学习任务，可以同时处理多个向量的并行计算，适用于向量融合操作。
专用硬件加速卡 ：一些公司开发了专用的硬件加速卡，例如NVIDIA的Tensor Core，可以在硬件级别实现高效的向量融合计算。
FPGA（现场可编程门阵列） ：FPGA可以根据特定任务的需求进行定制化的硬件加速，适用于实现定制化的向量融合计算。
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
加法融合 ：将多个向量的对应元素相加，得到一个新的向量。
乘法融合 ：将多个向量的对应元素相乘，得到一个新的向量。
拼接融合 ：将多个向量按照某个维度进行拼接，形成一个更长的向量。
加权融合 ：将多个向量按照一定的权重进行加权求和，得到一个新的向量。
注意力机制融合 ：使用注意力机制，为不同的输入向量分配不同的权重，然后按照权重进行加权融合。
技术转让
提到的应用和装置都有助于在神经网络数据处理中实现高效的向量融合计算，提高模型的性能和效率。向量融合计算方法在神经网络数据处理中被广泛应用，用于将多个向量（例如特征向量、嵌入向量等）合并成一个单一的向量，以便进行后续的数据分析、模型训练或决策制定。
下载app