科创中国
面向人工智能的安全关键技术及应用
成果类型：: 新技术
发布时间: 2023-08-01 18:36:27
科技成果产业化落地方案
方案提交机构：山东省菏泽市| 周保华 | 2023-10-20 15:00:56
随着深度学习的广泛应用，聚集逐渐增多的深度学习的安全性，设计深度学习模型安全测试平台，这样就更加有利于人们对深度学习安全方面的使用和学习。在了解的原理的条件下，能够更加容易的利用和实现的一个深度学习安全平台。
面向深度学习领域的知识产权保护框架及软件：模型窃取攻击：指通过黑盒探测来窃取模型或者恢复训练数据成员，比如窃取股票市场预测模型和垃圾邮件过滤模型。主要工作：我们提出了一种基于盲水印的版权保护框架，该框架能够满足对深度神经网络嵌入水印对安全性、合法性和可行性的要求。该工作是第一个成功设计和实施基于盲水印的深度学习模型版权保护框架，可以实现针对逃逸攻击的不可检测性和针对欺诈性所有权主张的不可伪造性的当前最优性能。此外，该框架显示出非凡的鲁棒性并在模型与作者身份之间的建立了清晰的关联。
隐私保护与数据安全：在人工智能应用中，隐私保护和数据安全是至关重要的问题。关键技术包括数据加密、差分隐私、多方计算等，可以确保敏感信息的安全性，并保护用户的隐私权。这些技术为广泛的应用场景提供了安全保障，如医疗健康、金融服务、智能家居等。 模型安全与防御：人工智能模型的安全性是另一个重要问题。攻击者可能对模型进行恶意篡改或攻击，导致错误的预测结果或信息泄露。关键技术包括模型鲁棒性增强、对抗样本检测与防御、模型解释与可解释性等，以提高模型的安全性和可信度。
山东大学技术转移中心成立于 2014 年 6 月，是挂靠我校科学技术研究院专业从事科技成果转移转化、促进产学研合作的内设管理服务机构，设置“科技合作部”、“成果转化部”和“合同管理部”。“科技合作部”负责各类横向科研合作、产学研合作平台和项目的策划、组织和管理；产学研对接与校地、校企科技合作的组织和实施；学校各地技术转移机构的建设；学校对外科技挂职人员的推荐和管理。“成果转化部”负责制定完善成果转化政策，各类科技成果转化项目的策划和组织实施，专利等知识产权的产业化组织和实施，成果的收集、发布和管理等。“合同管理部”负责制定完善科技开发与产学研合作政策；横向科技合同和成果转化合同的审核、项目过程管理；技术转移转化合同签订咨询服务等。
隐私保护：人工智能系统处理大量个人数据，隐私保护成为重要问题。技术方法如差分隐私、同态加密和多方计算可确保在数据共享和模型训练过程中维护用户隐私。 对抗性防御：对抗性攻击是指通过故意篡改输入数据来欺骗人工智能系统。对抗性防御技术致力于检测和抵御这些攻击，例如对抗样本生成和鲁棒性训练。 可解释性：人工智能系统的决策过程通常是黑盒子，难以解释其背后的逻辑。可解释性技术旨在使人们理解和信任人工智能系统的决策，如解释生成和可视化方法。
本实用新型通过技术转让或技术合作方式进行转化
下载app