1.一种防御基于梯度的对抗攻击的方法,其特征在于包括如下步骤:步骤1、获取多幅图像,并将其构建成训练集和测试集;
步骤2、构建神经网络模型,并初始化神经网络模型的参数,使用上述的训练集对初始化的神经网络模型进行训练,得到训练完成后的神经网络模型;
步骤3、从测试集中选取任一个测试样本x,并获取该测试样本x的真实标签y;
步骤4、在上述步骤2中训练完成后的神经网络模型的第一层之前增加处理层,即得到防御模型;
步骤5、将步骤3中的测试样本x作为防御模型的输入,得到测试样本x经过防御模型后的输出h′(x);
上述h′(x)的获取方法为:将测试样本x输入到处理层后,得到处理层的输出g(x),并将该g(x)输入到训练完成后的神经网络模型中,即得到:h′(x)=h(g(x))
其中,h(g(x))为将处理层的输出g(x)输入到训练完成后的神经网络模型h(·)中而得到的输出;
上述防御模型满足如下两个条件:
条件一:x=g(x);
条件二:
其中,L(h(x),y)为根据测试样本x输入到训练完成后的神经网络模型h(·)中得到的预测标签h(x)和测试样本x的真实标签y计算得到的损失函数; 为损失函数L(h(x),y)对测试样本x求偏导;Sign为符号函数;L(h(g(x)),y)为根据测试样本x输入到防御模型中得到的预测标签h(g(x))和测试样本x的真实标签y计算得到的损失函数;
获取同时满足上述条件一和条件二的处理层关系式,使用该处理层关系式与训练完成后的神经网络模型得到最终的防御模型;
步骤6、对步骤3中的测试样本x进行白盒对抗攻击,得到白盒对抗攻击后生成的测试样本x′,并将白盒对抗攻击后生成的测试样本x′输入到最终的防御模型中,即得到防御后的输出y′。
2.根据权利要求1所述的方法,其特征在于:所述步骤5中同时满足条件一和条件二的g(x)表达式为:g(x)=sin(k1πx+k2π)+x;
其中,k1和k2均为整数,并且k1为偶数,k2为奇数。
3.根据权利要求2所述的方法,其特征在于:k1=2,k2=1。
4.根据权利要求1~3任一项所述的方法,其特征在于:所述步骤6中的白盒对抗攻击为FGSM攻击方法或PGD攻击方法。