科创中国
一种DNN分区方法及采用该方法的边缘计算架构和存储介质
成果类型：: 发明专利
发布时间: 2023-11-01 15:32:33
科技成果产业化落地方案
方案提交机构：天津市滨海新区| 宋学姮 | 2023-11-10 10:28:33
本发明涉及计算机应用技术领域，具体涉及一种DNN分区方法及采用该分区机制的边缘计算架构和存储介质。基于对一般化的DNN网络进行形式化定义，并给出对应的优化目标函数，用以设计动态的高效分区算法。同时，本发明基于DNN分区来减少边缘计算网络资源消耗。本发明对DNN的分区将DNN在一个适合的层次进行网络划分，将浅层网络放置于端设备，深层网络切分卸载到边缘服务器。这是一种分层的卸载决策机制，该机制有效地利用比设备速度更快的边缘服务器来实现推理任务的加速。采用该DNN分区机制的边缘计算架构和存储介质也具有同样的技术效果。
一种DNN分区方法，其特征在于，包括以下步骤：
S1.根据DNN的每一层的计算类型和规模进行抽象，得到DNN的层次架构及总的层数；
S2.利用每秒浮点运算来表征设备和边缘服务器的浮点计算量和计算时间，结合DNN的层数来完成设备与边缘服务器基于DNN分区博弈的数学建模；
S3.以最小化所有设备的总响应时间为目标设计优化目标函数；
S4.基于DNN的分割层为所述设备设计效用函数；
S5.基于博弈论的建模方法，把每个设备看作独立的智能体，每个智能体的目标是通过选择分割层位置来最大化自身的效用函数。
智能监控系统： 边缘设备可以处理本地的监控数据，通过DNN分区方法进行实时目标检测和识别，减少对云端的通信延迟。
自动驾驶汽车： 边缘计算架构可以在车辆上执行部分的DNN分区，以进行实时的图像识别和决策，提高自动驾驶系统的实时性。
物联网设备： 采用DNN分区方法的边缘计算可以在物联网设备上执行部分的深度学习任务，使得设备能够更智能地处理数据，减轻对中心服务器的依赖
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
存储介质： 由于边缘设备通常具有有限的存储容量，采用了DNN分区方法后，存储介质可能涉及本地存储、边缘服务器存储和云端存储。分区的存储和传输需要有效地管理，以确保系统的性能。
应用场景： 采用DNN分区方法的边缘计算架构可应用于需要实时响应和低延迟的场景，如智能监控、自动驾驶、物联网设备等。在这些场景中，边缘计算可以在本地处理和分析数据，减少对云端的依赖，提高系统的响应速度。
技术转让
采用DNN分区方法的边缘计算架构通常包括边缘设备、边缘服务器和云端资源。边缘设备执行部分DNN分区，而边缘服务器和云端资源可以协同完成整个神经网络的推断。
下载app