您所在的位置: 成果库 Expasoft:用于神经网络优化和加速的自动化深度学习平台

Expasoft:用于神经网络优化和加速的自动化深度学习平台

发布时间: 2022-11-24

来源: 科创项目库

基本信息

合作方式:
成果类型: 发明专利
行业领域:
电子信息技术
成果介绍
该公司与NSU合作开发了一个自动化的深度学习平台 自动选择和优化神经网络的结构,以实现最佳的质量值 (例如,准确性),并提高特定硬件平台的人工智能 (AI) 解决方案的性能。这种发展源于为商业产品发布准备神经网络时的已知挑战。有必要 为了针对特定的硬件平台优化经过训练的神经网络,它打算在其中启动或部署。该技术被实现为对AI开发人员灵活的框架,并建立在团队开发的神经架构引擎之上。它允许在PyTorch上的训练过程中优化和改进准确性和延迟/RAM/模型大小。
成果亮点
该技术可以自动从10亿可用选项中找到神经网络 (NN) 的最佳架构。它考虑了许多参数,包括输入分辨率,神经网络深度,操作类型,激活类型,每层的过滤器/神经元数量,用于神经网络推理的目标硬件平台的位宽。AI平台允许NN优化,并且可以根据任务类型和目标硬件平台将基本神经网络的速度提高3到25倍。该技术支持并自动结合了深度神经网络优化的所有主要方法,例如神经架构搜索 (NAS),量化,结构修剪和蒸馏。该平台作为PyTorch的软件库提供,适用于所有类型的处理器: x 86 /x 64 GPU,ARM,FPGA和推理框架。应用的创新方法可以将优化过程的持续时间从几个月缩短到两周,同时大大减少了优化过程中对硬件资源的需求。该平台可作为机器学习开发云平台的集成部分安装在客户的基础架构和SaaS选项中。 该技术有助于标准化开发过程,并减少2倍以上的开发工作。它可以降低生产风险,缩短AI解决方案开发的上市时间。它可以显著降低人工智能服务的硬件资源消耗3到25倍。与现有的用于神经网络压缩的开源方法相比,该技术的主要优势是 NAS方法,修剪,蒸馏,量化共同工作,并解决了一个大的优化问题,而不是一系列单独的方法。
团队介绍
自2010以来,该公司-Expasoft LLC一直在人工智能市场上成功运营。成功完成10多个行业的100多个项目。该公司是由一群年轻的研究人员2010年创立的俄罗斯科学院和新西伯利亚国立大学西伯利亚分校数学研究所。公司总部位于新西伯利亚 (俄罗斯)。在里加 (拉脱维亚) 和莫斯科 (俄罗斯) 又有两个办事处。该公司雇用3名博士专家,我们80% 的员工是数据科学专业人员 (具有较高的数学教育)。Expasoft团队在两类IEEE国际低功耗图像识别挑战2018中排名第一。
成果资料
路演文件