人工智能安全对抗性攻击和防御技术
发布时间: 2021-10-22
预算 双方协商
基本信息
行业领域:新兴行业
地区:陕西省 西安市
需求方:西安***公司
需求描述
需求任务:
针对常用人工智能模型,研究新型攻击生成机理,设计迁移性强的自适应攻击方法,以攻促防;其次,针对现有常见的攻击形式如后门攻击、对抗样本攻击、模型窃取等攻击,设计通用鲁棒的防御策略;最后,设计可靠的模型鲁棒性评估指标,量化评估各模型对于不同攻击的防御能力,精准衡量模型鲁棒性。在保障模型性能的基础上,研发人工智能对抗攻防平台,在多应用场景、复杂算法环境下研究人工智能鲁棒算法技术,全面提升人工智能模型的安全性。
指标建议:
针对现有常见人工智能模型,试下不少于3种自适应攻击方法,实现攻击成功率高于70%;针对训练阶段和测试部署阶段的典型攻击方法给出通用防御策略,并在图像、文本、无人机等不少于3种应用场景下验证可行性,实现在有攻击情况下防御算法的成功率下降幅度低于10%;构建人工智能模型鲁棒性评估指标体系,提出不少于1个通用的鲁棒评估指标。
Copyright © 2022 中国科学技术协会 版权所有 | 京ICP备16016202号-20