1.一种基于DQN的局部像素扰动黑盒攻击方法,其特征在于,所述方法包括:第一步,将对抗攻击问题定义为一个多目标优化问题,第一个优化目标是最大化目标模型对对抗样本的预测结果与真实结果之间的差异;第二个优化目标是最小化对抗样本与原始图像之间的差异;
第二步,利用注意力机制对原始图像的高层特征和浅层特征进行融合得到融合特征,对融合特征进行聚类以计算原始图像的显著性二值掩码,进而确定其关键区域;
第三步,设计并训练关于原始图像的自编码器;
第四步,利用所得自编码器对原始图像的关键区域进行压缩,将像素空间压缩到潜在空间;
第五步,在潜在空间中,利用DQN解决多目标优化问题,学习找到可以平衡多个优化目标的生成对抗样本的最佳策略;
第六步,在进行黑盒攻击时,对经第二步得到的原始图像的关键区域进行压缩,生成特征向量后,实施最佳策略添加动作;随后,利用自编码器将添加动作后的特征向量还原,并将还原后的特征向量与原始图像进行比对和背景添加,最终生成对抗样本。
2.如权利要求1所述的基于DQN的局部像素扰动黑盒攻击方法,其特征在于,所述第一步将对抗攻击问题定义为一个多目标优化问题,第一个优化目标是最大化目标模型对对抗样本的预测结果与真实结果之间的差异;第二个优化目标是最小化对抗样本与原始图像之间的差异;具体包括:本方法旨在生成同时满足两个目标的对抗样本:一是最大化目标模型对对抗样本的预测结果与真实结果之间的差异;二是最小化对抗样本与原始图像之间的差异,即使得对抗样本在人类观察下与原始图像的相似度较高;可将以上两个优化目标形式化为公式(1):其中T为攻击的目标模型,
x=B+F (2)
||δ
||δ
其中公式(2)表示图像划分约束,x为原始图像,B,F分别表示图像的背景区域与关键区域,公式(3)和公式(4)分别表示对抗扰动的l
3.如权利要求1所述的基于DQN的局部像素扰动黑盒攻击方法,其特征在于,所述第二步利用注意力机制对原始图像的高层特征和浅层特征进行融合得到融合特征,对融合特征进行聚类以计算原始图像的显著性二值掩码,进而确定其关键区域;具体包括:(1)利用预训练完成的图像特征提取器F(·)中的深层卷积和浅层卷积,分别对原始图像进行特征提取,得到高层特征feature_h和浅层特征feature_l;
(2)利用注意力机制对feature_h和feature_l进行加权融合,生成融合特征;
(3)对融合特征进行谱聚类,生成原始图像的显著性二值掩码,并设置显著性区域为关键区域,否则为背景区域。
4.如权利要求1所述的基于DQN的局部像素扰动黑盒攻击方法,其特征在于,所述第五步在潜在空间中,利用DQN解决多目标优化问题,学习找到可以平衡多个优化目标的生成对抗样本的最佳策略;具体包括:(1)对DQN涉及到的两个核心要素进行定义:状态和动作;
(2)设计一个合适的奖励函数,使得智能体能够在训练过程中尽可能地同时满足多个优化目标;
(3)进行DQN的训练过程。
5.如权利要求4所述的基于DQN的局部像素扰动黑盒攻击方法,其特征在于,进一步包括:利用对目标模型的查询结果以及对抗样本与原始图像的扰动范数来设计奖励函数,定义奖励函数公式为:其中T(x)={p
6.如权利要求1所述的基于DQN的局部像素扰动黑盒攻击方法,其特征在于,所述第六步在进行黑盒攻击时,对经第二步得到的原始图像的关键区域进行压缩,生成特征向量后,实施最佳策略添加动作;随后,利用自编码器将添加动作后的特征向量还原,并将还原后的特征向量与原始图像进行比对和背景添加,最终生成对抗样本;具体包括:(1)根据第二步计算原始图像的显著性二值掩码,得到原始图像的关键区域和背景区域;
(2)利用所得自编码器对原始图像的关键区域进行压缩,将像素空间压缩到潜在空间,得到关键区域的特征向量;
(3)利用第五步学习到的最佳策略对特征向量进行动作添加,不断重复此过程,直至达到最大迭代次数或者满足攻击终止条件;
(4)利用所得自编码器将修改后的特征向量还原为与原始图像维度相同的像素矩阵,然后对该矩阵进行与关键区域的比对处理,将处理后的矩阵与背景区域相加,得到对抗样本。