欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 201910440684X
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种针对单张人脸查询次数受限攻击的防御方法,包括以下步骤:

(1)将初始人脸图像输入至人脸分类器中,采用黑盒攻击方法对初始人脸图像进行全局攻击,得到对抗人脸图像,攻击成功时,记录人脸分类器被访问次数和对抗人脸图像的置信度;

(2)采用相同的分割方式将初始人脸图像和对抗人脸图像分割成多个分割区域,根据分割区域特征与初始人脸图像的差异确定初始扰动;

(3)选择与分割区域个数相同的不同人脸图像,采用一对一的方式将初始人脸图像对应的分割区域添加到不同人脸图像上,形成合成人脸图像;

(4)将合成人脸图像输入至人脸分类器中,采用黑盒攻击方法对合成人脸图像中的分割区域进行部分攻击,得到对抗合成人脸图像,攻击成功时,记录人脸分类器被访问次数和对抗合成人脸图像的置信度;

(5)根据对抗合成人脸图像和初始人脸图像的差异确定新扰动;

(6)将新扰动添加到初始人脸图像中,得到新人脸图像,并将新人脸图像输入至人脸分类器中,得到检测结果;

(7)在次数受限攻击不成功时,根据对抗合成人脸图像与初始人脸图像确定损失函数,根据损失函数值和检测结果的大小关系确定最大受限攻击次数,在最大受限攻击次数约束下,重复执行步骤(4)~步骤(7),进行优选黑盒攻击;

(8)在次数受限攻击成功时,根据初始扰动和新扰动确定分割区域特征被次数受限攻击的风险程度,根据风险程度的大小对分割区域特征进行针对性防御。

2.如权利要求1所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(2)中,根据人脸分布特征对人脸图像进行区域分割,将初始人脸图像分割成眉眼、鼻子、嘴巴和轮廓四个分割区域,即为分割区域A1,A2,A3,A4;

将对抗人脸图像分割成眉眼、鼻子、嘴巴和轮廓四个分割区域,即为分割区域A'1,A'2,A'3,A'4;

根据分割区域A1,A2,A3,A4与分割区域A'1,A'2,A'3,A'4的差异,确定初始扰动p(A'j0),j∈[1,4]。

3.如权利要求2所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(3)中,选择4张不同人脸图像Xj,j∈[1,4];

将分割区域A1添加到人脸图像X1中,将分割区域A2添加到人脸图像X2中,将分割区域A3添加到人脸图像X3中,将分割区域A4添加到人脸图像X4中,得到合成人脸图像Xj(Aj),j∈[1,

4]。

4.如权利要求3所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(4)中,在限制攻击范围只能存在于特征分割区域部分,并且控制最大访问次数不超过C0/2情况下,采用黑盒攻击方法对合成人脸图像中的分割区域进行部分攻击,其中,C0表示步骤(1)中记录的人脸分类器被访问次数。

5.如权利要求4所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(5)中,根据对抗合成人脸图像和初始人脸图像的差异确定新扰动包括:从对抗合成人脸图像X'j1,j∈[1,4]中提取攻击后的对抗样本特征A'j1,j∈[1,4],根据对抗样本特征A'j1,j∈[1,4]与初始人脸图像A的差异,得到新扰动p(A'j1),j∈[1,4]。

6.如权利要求5所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(7)中,构建的损失函数g(x)为:其中, 表示对抗合成人脸图像x和初始人脸图像x0之间的欧几里德距离,用来约束初始人脸图像x0与对抗合成人脸图像x的相似性;c为常数,F(x)表示对抗合成人脸图像x输入人脸分类器得到的对各个类标的置信度反馈,c·f(x,t)是用来表示人脸分类器对对抗合成人脸图像x判断结果与预期得到结果的差异程度,能够有效约束,攻击朝着设想的方向前进;另外,k为一个非常小的正数,表示攻击成功时,对抗合成人脸图像与初始人脸图像置信度差值的最小限度。i表示除了真实类标以外的其他任意类标,t0表示初始人脸图像的真实类标。

7.如权利要求6所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(7)中,根据以下公式确定最大受限攻击次数Cn[max]:其中,g(A'j0)表示通过正常黑盒攻击产生的对抗人脸图像中分割区域特征的损失,g(A'j1)表示通过次数受限攻击产生的对抗合成人脸图像中分割区域特征的损失,F(A'0)表示通过正常黑盒攻击产生的对抗人脸图像的置信度,F(A′1)表示通过次数受限攻击产生的对抗合成人脸图像的置信度。

8.如权利要求7所述的针对单张人脸查询次数受限攻击的防御方法,其特征在于,步骤(8)中,根据以下公式确定被次数受限攻击的风险程度其中, 表示各个分割区域特征部位的扰动,h表示一个非常小的正数,用来模拟x周围的梯度。

9.一种针对单张人脸查询次数受限攻击的防御装置,包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序,其特征在于,所述计算机处理器执行所述计算机程序时实现如权利要求1~8任一项所述的针对单张人脸查询次数受限攻击的防御方法。