科创中国
一种通用、可配置的高能效池化计算单行输出系统和方法
成果类型：: 发明专利
发布时间: 2023-11-01 14:27:31
科技成果产业化落地方案
方案提交机构：天津市滨海新区| 宋学姮 | 2023-11-10 09:01:55
本发明公开了一种通用、可配置的高能效池化计算单行输出系统和方法，该系统包括上位机的可配置参数计算模块、下位机的可配置寄存器阵列操作控制模块、直接寄存器访问模块、以及计算模块；所述的计算模块按照可配置寄存器阵列操作控制模块发送的控制参数，进行与控制参数相匹配的高效能池化计算，并将计算结果用过直接寄存器访问模块发送到片外存储器DDR、由片外存储器DDR对计算结果进行保存；该方法包括池化计算宽度方向参数配置方法、以及高能效池化计算单行输出方法。本发明采用池化计算单行输出的方法，使得片上存储面积减少了至少三分之二，有效减少了电路面积和降低了能耗，从而解决了支持任意类型的池化计算的瓶颈问题和接触了后顾之忧。
一种通用、可配置的高能效池化计算单行输出系统，其特征在于：包括上位机的可配置参数计算模块、下位机的可配置寄存器阵列操作控制模块、直接寄存器访问模块、以及计算模块；所述上位机的可配置参数计算模块将操作控制模块中所用到的所有参数都提前计算好，然后CPU将计算好的控制参数通过AXI-lite总线存储到可配置的寄存器阵列操作控制模块，所述的可配置寄存器阵列操作控制模块从CPU获取数据后，存储这些提前计算好的控制参数、并利用这些提前计算好的控制参数控制直接寄存器访问模块的存取操作、以及控制计算模块的池化计算；所述直接寄存器访问模块按照可配置寄存器阵列操作控制模块发送的控制参数、通过AXI4总线从片外存储器DDR中获取与控制参数相匹配的单行输入数据、并将该单行输入数据发送给计算模块；所述的计算模块按照可配置寄存器阵列操作控制模块发送的控制参数，进行与控制参数相匹配的高效能池化计算，并将计算结果用过直接寄存器访问模块发送到片外存储器DDR、由片外存储器DDR对计算结果进行保存。
该系统可以广泛应用于深度学习任务，包括图像识别、语音识别、自然语言处理等领域。由于其通用性和可配置性，可以适应不同任务和模型结构的需求。可配置的高能效池化计算单行输出系统和方法的应用有助于提高深度学习模型的训练和推理效率，同时降低能源消耗。在硬件设计和深度学习算法优化方面的创新有望推动该领域的发展。
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
通用性和可配置性： 该系统设计为通用和可配置的结构，适用于各种深度学习任务和网络结构。用户可以根据特定的需求配置池化计算单元，以实现不同的池化操作（如最大池化、平均池化等）和参数设置。
高能效： 该系统的设计目标是实现高能效的计算。通过优化硬件架构、算法和电源管理等方面，使得池化计算单元在执行任务时能够更加高效地利用计算资源，降低能耗。
单行输出： 该系统的输出是单行的，这意味着在执行池化操作后，每个输入特征图将产生一行输出。这样的设计有助于降低数据传输和存储开销，提高计算效率。
技术转让
这种通用、可配置的高能效池化计算单行输出系统和方法的应用有助于提高深度学习模型的训练和推理效率，同时降低能源消耗。在硬件设计和深度学习算法优化方面的创新有望推动该领域的发展。
下载app