您所在的位置: 成果库 超动力小超算:基于算网一体的下一代AI服务器

超动力小超算:基于算网一体的下一代AI服务器

发布时间: 2023-12-07

来源: 试点城市(园区)

基本信息

合作方式: 创业融资
成果类型: 发明专利,新技术
行业领域:
新一代信息技术产业,人工智能
成果介绍
本项目通过架构和技术方案创新实现了计算设备运行能耗和采购成本的大幅度降低。主要的思路就是把超算的建设理念和以太网通信技术引入AI服务器内部,把各个计算节点通过以太网构建并行计算实现对等通信,破解传统服务器冯诺依曼架构存在的功耗墙的问题,极大地降低了数据经过CPU多次缓存导致的传送时延并降低了数据缓存的能耗开销(GPU之间可以基于ROCE协议直接通信而不需要再经过CPU);另外以高性能以太网替代传统AI服务器中的PCie通信,可以大幅扩展节点之间的通信带宽,降低了通信时延,同时降低了设备的建造成本。
成果亮点
1、前华为硬核团队出品。这是一个善于通过技术和市场双轮驱动实现公司商业化成功的团队;团队成员均有超过20年的行业经验,在业绩增长和精细化运营、技术路线选型、关键技术攻关和产品开发生产等方面具备非常深厚的专业经验和积累。 2、颠覆性架构、领先性技术,门槛高,领先行业12个月 1)算网一体的超算服务器架构。我们在服务器内部彻底拆掉了以CPU为中心的冯诺依曼架构,将多个具备内存一致性的SOC计算单元通过交换背板直连,实现了CPU/GPU/DPU的平等对称架构,计算单元之间不再采用PCIE交换总线进行通信,而是采用了基于COCE通信协议的算网一体的高速无损以太网进行通信,降低了通信的时延同时降低了设备的建造成本和运行能耗; 2)领先的技术路线。 高性能无损以太网技术。通过改进计算单元之间的通信手段也是提升算力水平的重要手段。多个标准化组织或者企业都在制定相关标准或者研发相关技术方案,比如芯片或者多核之间的CXL/C2C/UCIE等标准或者私有协议、卡与卡(比如NVLINK/NVSWITCH/RDMA)以及机器与机器的之间通讯方案。
团队介绍
创始团队成员均有超过20年+的行业经验,具备从基层到中高层的职业履历,即有在小公司从0到1到100的创业经历,也有在大平台从100到1000的规模扩展经验,积累了深厚的专业知识和宽广的行业视野;同时各个创始成员均保持着一贯的工作激情和追求卓越、服务客户的职业素养;团队创始成员有多年共事的经历,性格习惯彼此都已经适应;且团队成员各有所长、能力互补,角色全面。在公司绩效管理运营、产品架构搭建、技术攻关和产品研发落地等方面实现全面覆盖。
成果资料
路演文件