国产AI大模型轻量化适配与西北行业场景微调研发
价格 ¥10万
地区: 宁夏回族自治区 银川市 西夏区
需求方: 宁夏***公司
行业领域
新一代信息技术产业,人工智能
需求背景
当前通用国产大模型参数体量较大、部署成本高、推理速度慢,无法适配宁夏中小企业低预算、本地私有化部署、低带宽运行的实际需求。公司主要服务宁夏政务办公、乡村文旅、特色农业等本地化场景,通用大模型存在场景适配度低、专业知识库缺失、问答精准度不足、冗余算力高等问题,无法满足政企轻量化智能办公、智能咨询、自动化办公的落地需求,急需开展大模型轻量化裁剪、量化压缩与本地化场景微调工作。
需解决的主要技术难题
1. 解决通用大模型参数量大、部署成本高、低配服务器无法承载的技术难题。
2. 解决通用模型对宁夏政务、本地文旅、特色农业场景专业度不足、回答泛化严重的问题。
3. 解决轻量化微调后模型精度下降、语义理解能力减弱的技术难点。
4. 实现模型私有化本地部署、数据本地留存,满足政企数据安全合规要求。
期望实现的主要技术目标
1. 完成5B参数以内国产大模型轻量化蒸馏、量化压缩,适配普通服务器及边缘设备部署。
2. 完成宁夏政务办公、本地文旅、特色农业三大场景专项微调,搭建本地化行业知识库。
3. 模型本地推理响应速度≤1秒,场景问答准确率、文本处理精准度≥92%。
4. 形成可商业化落地的西北本地化轻量AI行业模型,适配政企低成本数字化升级。
Copyright © 2022 中国科学技术协会 版权所有 | 京ICP备16016202号-20