欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2021106529095
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于支持向量机线性逼近的黑盒测试方法,其特征在于,包括如下步骤:(1)获取图像样本数据集模型,并对黑盒深度学习模型进行预训练;

(2)根据获取的样本数据集构建若干支持向量机基础分类器;

(3)根据若干支持向量机基础分类器定义若干数据源级变异算子,包括:(3.1)确定目标类误分类扰动:

对于第j类样本拟合出支持向量机分类器 我们对其拟合状态的损失函数求梯度,产生误分类的扰动ε:(3.2)计算变异得分:

对于第j类样本集合X={x1,x2,...,xn},定义变异的得分,使得该样本集合中大部分样本均误分类,变异得分计算公式为:沿着变异得分增大的方向更新扰动,最终得到变异扰动σ:循环步骤(3),将针对每一个等价的线性逼近模型的对每一类都生成变异算子扰动;

(4)计算若干数据源级变异算子的安全上界,包括:(4.1)支持向量机分类器梯度更新,具体操作包括:假设注入变异算子后样本变化为:xt=x0+σ,以及模型对该样本的预测类标yt=y0,对应初始条件的αt=0,当符合KKT条件时,根据优化公式优化αt:其中,x0表示原始样本,Ei=f(xi)‑yi表示预测置信度与真实类标的距离,由此迫使支持向量机更新为:(4.2)当支持向量机分类器权重更新后,仍需要满足注入变异算子之后分类错误,得到预测类标置信度的距离需要满足:其中,Et和E0分别表示注入变异算子前后的样本预测置信度与对应类标的距离,核函数的不同形式决定了扰动ρt安全上界的不同表达形式,采用经点线性核,则化简安全上界公式为:其中ΔE=E0‑Et,yt表示变异算子的类标,与原样本一致;

(5)对若干数据源级变异算子的安全上界排序进行安全性评估。

2.根据权利要求1所述的基于支持向量机线性逼近的黑盒测试方法,其特征在于,步骤(1)获取数据图像样本数据集包括收集MNIST样本数据集、CIFAR‑10样本数据集和ImageNet样本数据集;将手机的图像样本数据集保存为X以及每张图像相应的类标Y。

3.根据权利要求1所述的基于支持向量机线性逼近的黑盒测试方法,其特征在于,步骤(2)中所述的构建支持向量机基础分类器的步骤如下:(2.1)构建单个支持向量机分类器:

对于包含m类样本的数据集,需要训练m个支持向量机分类器,每个分类器实现判别目标类和非目标类样本的二分类任务,单个分类器可以表示为:其中,j表示支持向量机分类的序号,j∈[0,m‑1],αi表示样本对应的拉格朗日系数,即在分类器中需要优化的参数,yi∈{1,‑1}表示二分类中各个样本对应的类标,1表示目标类,‑1表示除目标类外的其它类,K(·,·)表示核函数,β表示偏置,xi表示各个训练样本,x表示待识别的样本;

(2.2)拟合数据分布特征:

对于第j类的数据分布特征,j∈[0,m‑1],采用在特征空间中的散度计算衡量分布接近情况,并反馈到重采样优化搜索方向,具体优化目标定义为:其中, 表示基于KL散度的特征分布与决策边界相似度,log(·)表示对数函数,∫表示积分符号, 表示支持向量机分类器对j目标类的预测置信度, 表示深度模型对目标类的预测置信度,μ(x)为采样密度(2.3)判断支持向量机分类器的拟合状态:

直至 则认为支持向量机和模型对目标类的特征

映射分布情况接近,结束该目标类的优化;

对每一个样本采用定向重采样的方式确定搜索方向,当特征分布接近时, 变小,继续按照上一次重采样方向移动,反之则向反方向移动;

其中TBoundary表示特征分布的散度衡量阈值。

4.根据权利要求1所述的基于支持向量机线性逼近的黑盒测试方法,其特征在于,所述步骤(5)中对深度学习的安全性进行评估的具体步骤如下:(5.1)对每一类执行步骤(4.2),生成的对应的安全上界ρt并排序,等价分析模型的安全性:其中,sort表示从小到大排序。

5.一种基于支持向量机线性逼近的黑盒测试系统,其特征在于,所述系统包括:收集模块,收集图像样本与其分类的模型;

构建支持向量机模块,通过对每一类样本的特征分布进行拟合,训练与类标数量相同的二分类支持向量机;

构建变异算子模块,通过对二分类支持向量机梯度求导,并沿着最大化变异得分方向更新扰动,获得变异扰动,包括:(3.1)确定目标类误分类扰动:

对于第j类样本拟合出支持向量机分类器 我们对其拟合状态的损失函数求梯度,产生误分类的扰动ε:(3.2)计算变异得分:

对于第j类样本集合X={x1,x2,...,xn},定义变异的得分,使得该样本集合中大部分样本均误分类,变异得分计算公式为:沿着变异得分增大的方向更新扰动,最终得到变异扰动σ:循环步骤(3),将针对每一个等价的线性逼近模型的对每一类都生成变异算子扰动;

计算最小安全上界模块,通过样本叠加变异算子,迫使支持向量机权重迭代更新获得最小扰动上界,包括:(4.1)支持向量机分类器梯度更新,具体操作包括:假设注入变异算子后样本变化为:xt=x0+σ,以及模型对该样本的预测类标yt=y0,对应初始条件的αt=0,当符合KKT条件时,根据优化公式优化αt:其中,x0表示原始样本,Ei=f(xi)‑yi表示预测置信度与真实类标的距离,由此迫使支持向量机更新为:(4.2)当支持向量机分类器权重更新后,仍需要满足注入变异算子之后分类错误,得到预测类标置信度的距离需要满足:其中,Et和E0分别表示注入变异算子前后的样本预测置信度与对应类标的距离,核函数的不同形式决定了扰动ρt安全上界的不同表达形式,采用经点线性核,则化简安全上界公式为:其中ΔE=E0‑Et,yt表示变异算子的类标,与原样本一致;

评估模块,对获得的最小扰动上界进行排序。