1.一种针对模型后门攻击的防御方法,其特征在于,包括以下步骤:采用神经清洗后门检测方法获取后门标签,所述后门标签用于指导对抗样本的生成;
使用投影梯度下降对抗攻击算法生成对抗样本;
使用生成的对抗样本进行第一阶段的微调训练;
使用正常的干净样本进行第二阶段的微调训练,以恢复模型在原始数据上的分类性能;
训练后的模型用于人脸识别,模型训练所使用的数据为图像;
所述投影梯度下降算法所生成对抗样本的公式表示为:;
其中,是损失函数,是以为中心、半径为的邻域,为生成的对抗样本,为样本原始标签;
所述第一阶段的微调训练具体为:使用生成的对抗样本集,使用动态学习率和设定的微调轮数进行训练,具体优化目标公式为:;
其中,表示对抗样本,表示后门标签,表示损失函数,它衡量模型在预测输入与标签的差异,表示调整模型参数以最小化损失函数;
所述干净样本进行第二阶段的微调训练,为使用进行微调,具体优化目标公式为:;
其中表示干净样本,表示真实标签,表示损失函数,它衡量模型在预测输入与标签的差异,表示调整模型参数以最小化损失函数;
还包括在第一阶段的微调训练和第二阶段的微调训练后的综合优化目标,所述综合优化目标表示为:;
其中表示对抗样本,表示后门标签,表示干净样本,表示真实标签,表示损失函数,它衡量模型在预测输入与标签的差异,为超参数,用以平衡模型性能和抵御后门攻击的能力。
2.根据权利要求1所述的针对模型后门攻击的防御方法,其特征在于,所述采用神经清洗后门检测方法获取后门标签具体为:采用神经清洗方法分析模型的输入和输出,进而逆向出后门触发器,之后分析比较后门触发器所对应的L1掩码范数值,从而确定后门标签。
3.根据权利要求2所述的针对模型后门攻击的防御方法,其特征在于,逆向出后门触发器的公式为:;
其中为模型,为输入样本,δ为后门触发器,为后门标签,表示使模型预测为后门标签所需的最小扰动。
4.一种针对模型后门攻击的防御系统,采用了如权利要求1-3任意一项所述的防御方法,其特征在于,包括:后门标签检测模块,用于采用神经清洗后门检测方法获取后门标签,所述后门标签用于指导对抗样本的生成;
对抗样本生成模块,用于使用投影梯度下降对抗攻击算法生成对抗样本;
第一阶段微调模块,用于使用生成的对抗样本进行第一阶段的微调训练;
第二阶段微调模块,用于使用正常的干净样本进行第二阶段的微调训练,以恢复模型在原始数据上的分类性能;训练后的模型用于人脸识别,模型训练所使用的数据为图像。