本发明提供一种分级存储方法,所述方法包括以下步骤:存储自动分级:集群启动,自动识别不同类型的主机所处于的存储层次;定向存取:选择距离近、存储层次高、负载轻的节点用于数据的存储和读取;寻找热数据:记录文件中各数据块的访问信息,判断迁移时机,当迁移时机到来时,根据所述记录信息,得出每个访问数据块的价值,按照价值从高到低形成队列;数据块迁移:将价值高的数据块迁移到存储层次高的存储层,将价值低的数据块迁移到存储层次低的存储层。本发明的分级存储方法容易部署且硬件低廉,具有较高性价比,同时改善集群的数据调度,使得集群的访问性能得到优化。
一种分级存储方法,其特征在于,所述方法包括以下步骤:存储自动分级:hadoop集群启动,自动识别不同类型的主机所处于的存储层次;在存储自动分级时,所述存储层次至少包括2级,存储层次的划分标准为:存储层次越高,访问性能越好,处理用户请求的响应时间越短;根据主机名将不同类型的主机划分为不同的存储层次,所述存储层次包括SSD一级存储层、SAS二级存储层以及SATA三级存储层;定向存取:选择距离近、存储层次高、负载轻的节点用于数据的存储和读取;存储文件时,客户端将要存储的文件分成固定大小的数据块,每个数据块至少设有1个副本,各副本优先存储在存储层次高的存储层上;寻找热数据:记录文件中各数据块的访问信息,判断迁移时机,当迁移时机到来时,根据所述记录信息,得出每个访问数据块的价值,按照价值从高到低形成队列;数据块迁移:将价值高的数据块迁移到存储层次高的存储层,将价值低的数据块迁移到存储层次低的存储层。
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力,推动我国自主知识产权新工业的建立,成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生态系统,由九个研究平台,国科大深圳先进技术学院,多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究,促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
评价单位:- (-)
评价时间:2023-04-18
综合评价
这个企业已经有一定的基础,建议与相关学会组织搭建平台,请学会以及研究所、大学和相关企业参与,可能会攻克难关,会对我们国家甚至世界所存在的问题提出解决的措施并做出贡献,前途可期。
查看更多>