基于部分像素扰动的图像分类对抗样本研究开题报告

1. 研究目的与意义（文献综述）

近年来，深度学习在计算机视觉领域中的表现优于传统的机器学习技术，而图像分类问题是其中最突出的课题之一。随着精度和速度的提升，图像分类被广泛应用到安防、交通、医学、金融、气象、农业等领域，其中包括很多安全敏感的应用场景，例如自动驾驶中的视觉智能系统、视频监控中的目标识别系统、金融支付中的人脸识别系统等。

这些场景中，计算机系统的功能正确性对相关人员的生命财产安全起决定性作用。因此，如何有效地对深度学习系统的安全性做检测和验证成为了重要的研究课题。szegedy等人在2014年首次指出深度神经网络存在决策“盲点”,即对一个图像加入微小的扰动，可使神经网络产生误判，却对人类视觉系统没有任何干扰作用。这样由正常样本叠加微小恶意噪声而生成的数据样本被称为对抗样本。对抗样本的存在对基于深度学习技术的人工智能系统造成了巨大的安全威胁。goodfellow i等人在解释了深度网络的高维线性是对抗样本生成的原理后,围绕于生成对抗样本的迭代算法开始涌现,出现了各类流派。

按照对抗样本生成方式和原理的不同，分为全像素添加扰动和部分像素添加扰动两类，在此基础上根据目标是否定向,是否黑盒和是否肉眼可见三个标准进行细分。部分像素添加扰动主要有肉眼不可见的jsma、one-pixel和肉眼可见的adversarial patch和lavan等方法。其中jsma属于白盒攻击，其目标为使目的目标误分类。与fgsm相比，在添加同等扰动的条件下jsma对于图像整体的失真度控制更好，更有利于保持原有的图像特点。

2. 研究的基本内容与方案

研究内容和目标

研究的基本内容。本设计将实现典型对抗攻击算法，结合对同一数据集的效果测试来研究不同部分像素扰动算法及参数配置对图像分类模型的攻击能力。

研究目标。计划理解jsma等部分像素扰动算法的的理论基础，运用软件测试算法攻击效果，完成资料整理和论文编写。

3. 研究计划与安排

第1-3周 查阅相关文献资料，明确研究内容，了解部分像素扰动攻击算法的适用场景，完成开题报告。

第4-7周 进一步阅读相关文献，弄清所采用算法的工作原理，确定系统框架，明确设计要点，完成算法性能及参数影响验证的流程设计方案。

第8-10周 根据算法设计流程进行编写程序，获得对于同一数据集的初步测试结果，展望不同算法的应用场景。

4. 参考文献（12篇以上）

[1] 潘文雯,王新宇,宋明黎,陈纯.对抗样本生成技术综述[j/ol].软件学报:1-17[2020-03-04].https://doi.org/10.13328/j.cnki.jos.005884.

[2] 蒋凌云. 基于生成对抗网络的图像对抗样本攻防算法研究[d].战略支援部队信息工程大学,2019.

[3] 刘雨佳. 针对神经网络的图像对抗样本生成及应用研究[d].中国科学技术大学,2019.