欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2021101845700
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2023-12-11
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种面向特征嵌入中毒攻击的检测方法,其特征在于,包括以下步骤:(1)获取数据集以及待检测模型,构建与待检测模型结构相同的良性模型,并利用数据优化良性模型的参数;

(2)将数据集中的测试样本分别输入至参数优化的良性模型和待检测模型,获得每个网络层输出的特征图,并计算用于提取明显特征位置的模板与每个特征图之间的互信息,获取测试样本分别在良性模型和待检测模型中每个网络层的互信息;

(3)统计所有测试样本分别在良性模型和待检测模型中每个网络层的互信息,针对某一网络层,当超过个数阈值的测试样本在良性模型中该网络层的互信息与在待检测深度学习模中该网络层的互信息之差均大于差距阈值时,则认为待检测模型被攻击,且对应的网络层为特征嵌入中毒攻击层。

2.根据权利要求1所述的面向特征嵌入中毒攻击的检测方法,其特征在于,在计算互信‑

息时,针对每个尺寸为H*W的特征图,均会存在H*W+1个模板T∈T={T ,T1,...,TH*W},每个模板通过遍历操作找到特征图中特征明显的位置;

互信息的计算公式为:

其中,MI(X;T)表示模板T与特征图集合X的互信息,p(T)表示模板T的先验概率,即‑

μ=1,2,…,W*H,α为一个恒定的先验似然,α=(H*W)/(1+H*W),p(T)=1‑α,p(x|T)表示条件似然概率,用于测量特征图x和模板T之间的适应度,表示为:其中,ZT=∑x∈Xexp[tr(x·T)],x·T表示x和T之间的乘法,tr(·)表示矩阵迹,tr(x·T)=∑ijxijtij,i∈(1,...,H),j∈(1,...,W),p(x)=∑Tp(T)p(x|T);

对于模板T∈{T ,T1,...,TH*W},负模板 其中τ是正常数,τ=0.5/H*W,对应于序号为μ的正模板被给出为 ||||1表示L1范数距离,β是一个常数参数。

3.根据权利要求1或2所述的面向特征嵌入中毒攻击的检测方法,其特征在于,还包括在确定待检测模型被攻击中毒后,依据测试样本在模型中的特征通道确定模型的中毒目标类,并生成中毒样本。

4.根据权利要求3所述的面向特征嵌入中毒攻击的检测方法,其特征在于,确定模型的中毒目标类和生成中毒样本的过程为:将测试样本输入至待检测模型中,计算每一类别测试样本在模型中的特征通道,并在测试样本中添加扰动,以使测试样本激活非所属类别的所有其他类别的特征通路,并最终预测为所有其他类别,生成候选中毒样本;

依据候选中毒样本和测试样本确定添加扰动形成的扰动图;

统计所有扰动图,当每个测试样本对应的最小扰动图属于同一类别的个数大于设定阈值时,将该类别作为模型的中毒目标类,最小扰动图对应的候选中毒样本为最终中毒样本。

5.根据权利要求4所述的面向特征嵌入中毒攻击的检测方法,其特征在于,依据扰动图确定中毒目标类时,当每个测试样本对应的最小扰动图均为同一类别时,将该类别作为模型的中毒目标类,最小扰动图对应的候选中毒样本为最终中毒样本。

6.根据权利要求4所述的面向特征嵌入中毒攻击的检测方法,其特征在于,在构建每一类别测试样本在模型中的特征通道时,对每一类别的所有测试样本在待检测模型中的特征通道求交集得到每一类别测试样本在模型中的特征通道fpi∈[1,n],即:针对每个类别具有m张测试样本, 表示属于第i类别的第1个测试样本的神经通路,n为类别总个数。

7.根据权利要求4所述的面向特征嵌入中毒攻击的检测方法,其特征在于,为每个测试样本生成n‑1个候选中毒样本时,添加扰动的方式为:s′=s·(1‑m)+p·m

其中,s′表示候选中毒样本,s表示测试样本,p为一种触发器模式,m为二进制掩码,在补丁的位置为1,其他位置为0;

每个候选中毒样本与对应的测试样本的差值作为添加的扰动图noise,即:noise=||s′‑s||1

其中,||||1表示L1范数距离。

8.一种面向特征嵌入中毒攻击的检测装置,其特征在于,包括:获取模块,用于获取数据集以及待检测模型;

构建模块,用于构建与待检测模型结构相同的良性模型,并利用数据优化良性模型的参数;

互信息计算模块,用于将数据集中的测试样本分别输入至参数优化的良性模型和待检测模型,获得每个网络层输出的特征图,并计算用于提取明显特征位置的模板与每个特征图之间的互信息,获取测试样本分别在良性模型和待检测模型中每个网络层的互信息;

中毒攻击检测模块,用于统计所有测试样本分别在良性模型和待检测模型中每个网络层的互信息,针对某一网络层,当超过个数阈值的测试样本在良性模型中该网络层的互信息与在待检测深度学习模中该网络层的互信息之差均大于差距阈值时,则认为待检测模型被攻击,且对应的网络层为特征嵌入中毒攻击层。

9.根据权利要求8所述的面向特征嵌入中毒攻击的检测装置,其特征在于,所述检测装置还包括:中毒目标类检测模块,用于在确定待检测模型被攻击中毒后,依据测试样本在模型中的特征通道确定模型的中毒目标类,并生成中毒样本。

10.一种面向特征嵌入中毒攻击的检测系统,包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序,其特征在于,所述计算机处理器执行所述计算机程序时实现权利要求1~7任一项所述的面向特征嵌入中毒攻击的检测方法。