科创中国
一种大数据的处理方法、系统
发布时间: 2022-10-13
基本信息
合作方式：
技术服务
成果类型：
发明专利
行业领域：
电子信息技术
成果介绍
本发明适用于信息处理技术领域，提供了一种大数据的处理方法、系统，所述方法包括：实时处理系统根据预置的配置文件获取异构数据源的数据结构信息并发送所述异构数据源的数据结构信息至批处理系统，所述批处理系统根据所述异构数据源的数据结构信息建立元数据表；实时处理系统接收源数据流，对所述源数据流进行实时处理并写入实时处理结果至实时处理系统的数据库中，同时发送实时处理结果至批处理系统，以由批处理系统将所述实时处理结果存储在元数据表中；批处理系统接收批处理作业指令，根据所述批处理作业指令执行相应的批处理任务，并展示作业结果。本发明，避免了手工进行数据预处理的操作，减少了数据处理前期的预处理时间成本。
成果亮点
一种大数据的处理方法，其特征在于，所述方法包括：实时处理系统解析预置的配置文件，获取异构数据源的数据结构信息；实时处理系统发送所述异构数据源的数据结构信息至批处理系统，以由所述批处理系统根据所述异构数据源的数据结构信息建立元数据表；实时处理系统接收源数据流，对所述源数据流进行实时处理；实时处理系统写入实时处理结果至实时处理系统的数据库中；实时处理系统发送实时处理结果至批处理系统，以由批处理系统将所述实时处理结果中包括的数据进行分块，存储在元数据表中；当满足指定条件时，实时处理系统推送批处理作业指令至批处理系统；批处理系统接收所述批处理作业指令；批处理系统根据所述批处理作业指令执行相应的批处理任务，并展示作业结果。
团队介绍
发明人：范小朋;沈慧;杨鑫;赵东辉;须成忠
联系方式：0755-86392458
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
成果资料
产业化落地方案
成果综合评价报告
评价单位：- (-) 评价时间：2022-12-14
吴正斌
天津中科先进技术产业有限公司
总经理
综合评价
这个企业已经有一定的基础，建议与相关学会组织搭建平台，请学会以及研究所、大学和相关企业参与，可能会攻克难关，会对我们国家甚至世界所存在的问题提出解决的措施并做出贡献，前途可期。
查看更多>
下载app