您所在位置:陕西省西咸新区 技术需求 人工智能安全对抗性攻击和防御技术
点赞

人工智能安全对抗性攻击和防御技术

发布时间: 2021-10-22

预算 双方协商

基本信息

行业领域:新兴行业

地区:陕西省 西安市

需求方:西安***公司

需求描述

需求任务:

针对常用人工智能模型,研究新型攻击生成机理,设计迁移性强的自适应攻击方法,以攻促防;其次,针对现有常见的攻击形式如后门攻击、对抗样本攻击、模型窃取等攻击,设计通用鲁棒的防御策略;最后,设计可靠的模型鲁棒性评估指标,量化评估各模型对于不同攻击的防御能力,精准衡量模型鲁棒性。在保障模型性能的基础上,研发人工智能对抗攻防平台,在多应用场景、复杂算法环境下研究人工智能鲁棒算法技术,全面提升人工智能模型的安全性。

指标建议:

针对现有常见人工智能模型,试下不少于3种自适应攻击方法,实现攻击成功率高于70%;针对训练阶段和测试部署阶段的典型攻击方法给出通用防御策略,并在图像、文本、无人机等不少于3种应用场景下验证可行性,实现在有攻击情况下防御算法的成功率下降幅度低于10%;构建人工智能模型鲁棒性评估指标体系,提出不少于1个通用的鲁棒评估指标。