欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2023107164660
申请人: 安徽大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种针对对抗攻击的协同防御策略,其特征在于:包括以下步骤:

S1:预训练鲁棒性较好的对抗样本检测器;其中,在所述对抗样本检测器的训练过程中,依据二分类判别网络与原始数据、噪声数据进行联合训练;所述二分类判别网络的基础部分是一个二分类的判别网络,在判别网络上,使用原始数据、噪声数据共同训练网络模型;所述噪声数据包括带有随机噪声的数据和不同对抗攻击算法所生成的对抗样本;

S2:获取待处理图像;

S3:依据所述鲁棒性较好的对抗样本检测器,对所述待处理图像进行对抗样本检测,得到检测结果;

S4:依据所述的检测结果,若检测结果为“否”,则直接将所述待处理图像交给目标深度神经网络进行图像分类;

S5:依据所述的检测结果,若检测结果为“是”,对所述待处理图像进行神经网络关注区域的获取;其中所述关注区域的获取过程参照了类激活映射技术;所述类激活映射技术,是一个可以可视化神经网络对分类图片关注区域的工具,通常,类激活映射技术获得的是模型为其分配最高概率的类的映射,然而,在输入存在对抗性扰动的情况下,得到最高概率的类别可能不正确,考虑到成功改变最有可能的类的对抗样本往往会保持前k类的其他类不变,因此所述关注区域的计算过程如下:对于某张输入图片,令 表示最后一个卷积层在空间坐标 中第k个单元的激活值;对于第k个单元,全局池化的结果 为 ;对于每个类别,Softmax层的输入为 ,其中 是第k个单元对于类别c的权重, 表示的是 对类别c的重要程度,将代入 得:  = ,定义 为类别c的类激活映射,则空间的每个元素为= ,为了获得对最可能类的波动具有鲁棒性的映射,对前k个类的映射

进行指数加权平均, 得: = ,k的类别取决于类别总值,使用非极大值抑制来避免近乎重叠的观测结果,再将得到的局部极大值进二值化处理,最后通过阈值化技术得到所述关注区域;

S6:依据所述的关注区域进行去噪处理,得到去噪图像;

S7:依据所述去噪图像进行超分辨率重建,得到恢复图像;

S8:依据所述恢复图像送入目标深度神经网络进行图像分类。

2.根据权利要求1所述的一种针对对抗攻击的协同防御策略,其特征在于,所述步骤S1在所述检测器的训练过程中,使用原始数据和噪声数据共同训练网络模型,通过设置的判别目标函数持续对网络进行优化训练,提高判别网络的检测能力。

3.根据权利要求1所述的一种针对对抗攻击的协同防御策略,其特征在于,所述步骤S6去噪技术为采用软阈值的小波去噪,对所述关注区域进行去噪处理;

4.一种针对对抗攻击的协同防御系统,其特征在于,包括前端采集设备和后端处理设备;

所述前端采集设备,用于进行图像采集;

所述后端处理设备,包括检测性防御设备,鲁棒性防御设备和目标深度神经网络;

所述检测性防御设备,用于获取所述前端采集设备采集的图像;

所述检测性防御设备,还用于依据训练完毕的对抗样本检测器对所述采集的图像进行对抗样本检测,得到检测结果;其中,在所述对抗样本检测器的训练过程中,依据二分类判别网络与原始数据、噪声数据进行联合训练;所述二分类判别网络的基础部分是一个二分类的判别网络,在判别网络上,使用原始数据、噪声数据共同训练网络模型;所述噪声数据包括带有随机噪声的数据和不同对抗攻击算法所生成的对抗样本;

所述鲁棒性设备,用于获取所述检测性设备对所述采集的图像的检测结果;

所述鲁棒性设备,还用于依据所述检测结果对所述所述采集的图像进行图像处理;其中,若检测结果为“否”,则直接将所述采集的图像图像交给所述目标深度神经网络进行图像分类;若所述检测结果为“是”,对所述采集的图像进行神经网络关注区域的获取;其中所述关注区域的获取过程参照了类激活映射技术;所述类激活映射技术,是一个可以可视化神经网络对分类图片关注区域的工具,所述关注区域的计算过程如下:对于某张输入图片,令 表示最后一个卷积层在空间坐标 中第k个单元的激活值;对于第k个单元,全局池化的结果 为 ;对于每个类别,Softmax层的输入为 ,其中 是第k个单元对于类别c的权重, 表示的是 对类别c的重要程度,将 代入 得:  = ,定义 为类别c的类激活映射,则空间的每个元素为= ,为了获得对最可能类的波动具有鲁棒性的映射,对前k个类的映射

进行指数加权平均, 得: = ,k的类别取决于类别总值,使用非极大值抑制来避免近乎重叠的观测结果,再将得到的局部极大值进二值化处理,最后通过阈值化技术得到所述关注区域;

依据所述关注区域进行去噪处理,得到去噪图像;依据所述去噪图像进行超分辨率重建,得到恢复图像;依据所述恢复图像送入目标深度神经网络进行图像分类,得到分类结果;

所述目标深度神经网络,用于获取所述检测结果为“否”的所述采集的图像的分类结果;

所述目标深度神经网络,还用于获取所述恢复图像的分类结果;

所述目标深度神经网络,还用于作为所述对抗样本检测器训练过程中被攻击的目标网络。