1.一种基于持续学习的软件漏洞评估方法,其特征在于,包括以下步骤:
(1)通过基于Git的软件项目托管平台对CVE漏洞数据库及实际软件开发项目进行挖掘,收集漏洞相关数据,包括CVE ID、漏洞代码、漏洞描述、漏洞严重程度,对这些数据进行预处理,构建数据集D,首先通过获取CVE中漏洞的CVE ID、漏洞代码、漏洞严重程度、漏洞描述,随后通过基于Git网站的开源项目中提取与该漏洞相关的所有代码改动,并提取修改前的源代码,对源代码进行预处理,包括去除注释、空行、行前注释,最终形成漏洞数据集D;
(2)划分数据集,首先通过模拟持续学习场景下的动态学习,将漏洞数据集D按照任务进行划分,然后每个任务的数据集按照8:1:1的比例划为训练集、验证集和测试集,划分过程要借助分层采样方法来保证不同集合中的漏洞严重程度分布保持一致;
(3)针对当前任务,使用基于模型置信度的回放方法来对旧任务的数据集进行回放,在每次模型训练前我们根据模型的置信度来选择旧任务中的数据进行回放并将回放的数据与当前任务的数据集合并重新按照8:1:1的比例划为训练集、验证集和测试集,划分过程要借助分层采样方法来保证这两个集合中漏洞严重程度分布保持一致;
(4)对于步骤(3)中处理后的数据集,提取源代码和漏洞描述,首先构建提示模板,通过硬提示来区分源代码和漏洞描述这两类信息,对于严重性分类,使用[SOFT]标签创建软提示,另外用[MASK]标签来预测或填充缺失的信息,接着构建映射方法,通过该方法将模型的自然语言输出映射到具体的类别;最后将构建好的双模态信息输入到预训练语言模型CodeT5中,借助提示微调进行模型训练和混合提示模板训练;
(5)模型在训练时,针对新任务,将模型的参数权重限制在靠近先前任务最优参数的位置,保证新任务的学习过程不会大幅度改变对旧任务至关重要的参数,从而缓解灾难性遗忘;
(6)模型训练过程中采用提前停止策略,计算模型在验证集上的F1指标取值变化,若验证集指标连续10次下降则停止训练,防止过拟合问题,返回最优的软件漏洞严重程度预测模型M及对应的混合提示模板P;
(7)对于需要评估的软件漏洞,提取漏洞的源代码和漏洞描述,与训练好的混合提示模板P进行融合,最终输入到上面构建的软件漏洞严重程度预测模型M中,完成目标软件漏洞的严重程度预测。
2.根据权利要求1所述的一种基于持续学习的软件漏洞评估方法,其特征在于,所述步骤(3)中,具体包括如下步骤:(2-1)考虑当前任务之前每个任务的所有数据集,并将它们组合为Dtrain并训练模型f;
(2-2)计算训练集Dtrain中每个样本xi的置信度,xi的置信度来自模型的预测概率,取最大概率作为置信度,置信度公式设计如下:其中K是分类数量,是类j的logit,是xi预测类别的logit,是所有类别logit的指数和,用于归一化;
(2-3)按置信度得分对Dtrain中的样本进行升序排序,得到sortedsamples,然后,从训练集中选择置信度最低的N个样本进行重放,记为Dreplay,最后,将当前任务的训练集与选定的低置信度样本组合起来,如下所示:
3.根据权利要求1所述的一种基于持续学习的软件漏洞评估方法,其特征在于,所述步骤(4)中,具体包括如下步骤:(3-1)构建提示模板:使用硬提示区分源代码和漏洞描述,分别添加“The codesnippet:”和“The vulnerability description:”,对于严重性分类,使用[SOFT]标签创建软提示,训练时将其初始化为“Classify the severity:”,并用[MASK]标签预测或填充缺失信息;
(3-2)构建映射方法:将模型的自然语言输出映射到具体类别,若输出为“low”或“slight”,映射为LOW;若为“medium”或“moderate”,映射为MEDIUM;若为“high”或“severe”,映射为HIGH;若为“critical”或“significant”,映射为CRITICAL;
(3-3)将双模态信息输入预训练模型CodeT5,进行提示微调和混合提示模板训练。
4.根据权利要求1所述的一种基于持续学习的软件漏洞评估方法,其特征在于,所述步骤(5)中,具体包括如下步骤:(4-1)使用传统的随机梯度下降SGD方法训练神经网络模型,训练初始任务模型,训练过程中,数据会被随机打乱,并以小批量的方式进行处理,在完成初始任务的训练后,保存训练好的模型参数;
(4-2)计算Fisher信息矩阵,以量化每个参数对初始任务的重要性,使用训练数据A来计算每个参数的Fisher信息矩阵项,Fisher信息矩阵项I(θ)是通过计算每个参数θ的损失函数的梯度,并取这些梯度的平方期望值得到的,公式为:通过计算训练数据的平方梯度的平均值来近似:
其中是对数似然损失函数;
(4-3)计算完Fisher信息矩阵和每个参数的重要性权重后,将被保存下来,在训练新任务时,使用带有正则化项的损失函数来确保模型参数不会与初始任务的参数有太大偏差,EWC通过在损失函数中添加惩罚项来防止灾难性遗忘,这个正则化项是根据Fisher信息矩阵加权的,损失函数的公式定义如下:其中LB(θ)为当前任务的损失函数,λ为用于平衡新任务和旧任务重要性的超参数,Fi为第i个参数的Fisher信息矩阵,θi为当前任务的第i个参数,为初始任务中训练的第i个参数,该公式在新任务的训练过程中加入了惩罚项,以防止模型参数偏离上一个任务中学习到的最优参数。
5.根据权利要求1所述的一种基于持续学习的软件漏洞评估方法,其特征在于,所述步骤(6)中,具体包括如下步骤:(5-1)计算模型在验证集上的F1指标变化;
(5-2)当F1值连续10轮未超越当前最佳性能时,停止训练,返回最佳的漏洞严重性预测模型和混合提示模板。
6.根据权利要求1所述的一种基于持续学习的软件漏洞评估方法,其特征在于,所述步骤(7)中,具体包括如下步骤:(6-1)提取待评估漏洞的源代码和漏洞描述,并将其与训练好的混合提示模板P融合;
(6-2)将融合后的数据输入训练好的预测模型M,生成自然语言形式的输出;
(6-3)将模型输出的自然语言结果映射为具体的严重性等级,并返回最终的预测结果。