科创中国
一种DNN分区方法及采用该方法的边缘计算架构和存储介质
发布时间: 2023-11-01
基本信息
合作方式：
技术服务
成果类型：
发明专利
行业领域：
物理
成果介绍
本发明涉及计算机应用技术领域，具体涉及一种DNN分区方法及采用该分区机制的边缘计算架构和存储介质。基于对一般化的DNN网络进行形式化定义，并给出对应的优化目标函数，用以设计动态的高效分区算法。同时，本发明基于DNN分区来减少边缘计算网络资源消耗。本发明对DNN的分区将DNN在一个适合的层次进行网络划分，将浅层网络放置于端设备，深层网络切分卸载到边缘服务器。这是一种分层的卸载决策机制，该机制有效地利用比设备速度更快的边缘服务器来实现推理任务的加速。采用该DNN分区机制的边缘计算架构和存储介质也具有同样的技术效果。
成果亮点
一种DNN分区方法，其特征在于，包括以下步骤：
S1.根据DNN的每一层的计算类型和规模进行抽象，得到DNN的层次架构及总的层数；
S2.利用每秒浮点运算来表征设备和边缘服务器的浮点计算量和计算时间，结合DNN的层数来完成设备与边缘服务器基于DNN分区博弈的数学建模；
S3.以最小化所有设备的总响应时间为目标设计优化目标函数；
S4.基于DNN的分割层为所述设备设计效用函数；
S5.基于博弈论的建模方法，把每个设备看作独立的智能体，每个智能体的目标是通过选择分割层位置来最大化自身的效用函数。
团队介绍
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
成果资料
产业化落地方案
下载app