一种基于深度学习预测神经网络训练时长的方法
发布时间: 2022-05-19
基本信息
本发明公开了一种基于深度学习预测神经网络训练时长的方法,为大规模集群中的深度学习任务训练时长提供预测以优化集群调度策略。本发明首先分析神经网络的结构特性和训练过程的计算组成,构建以单层网络训练时长为基本单位的完整神经网络训练时长的计算模型,为利用单层模型特征预测具备不同结构的神经网络训练时长提供支持;其次,分析模型特征和训练时长的关系,设计多层感知机模型用以提取模型特征对训练时长的影响;最后,根据模型特征对训练时长的影响,制定降维规则用以提取对训练时长影响较大的关键特征,降低模型特征的维度,并利用降维后的模型特征训练深度学习模型用以预测分布式环境下的神经网络训练时长。
Copyright © 2022 中国科学技术协会 版权所有 | 京ICP备16016202号-20