1.一种基于决策的融合信息检索和深度学习的代码注释生成方法,其特征在于,包括以下步骤:(1)基于GitHub网站,通过挖掘高质量的开源项目,搜集开源代码内的函数和对应的注释形成语料库,并进一步划分成训练集和验证集;
(2)构建基于信息检索的模型,通过融合语义、词法和语法相似度,为目标代码段c找到训练集中最为相似的代码段c(3)构建基于深度学习的模型,使用一种基于Transformer的深度学习模型用于生成相应的代码注释,首先预先训练一个通用模型,然后在特定的语料库上对该模型进行微调;
(4)在分别获得了基于信息检索模型和基于深度学习模型产生的代码注释后,在验证集上分析这两种模型的性能与两个代码段c和c(5)当为一个新的目标代码生成注释时,根据基于决策的模块输出对应的代码注释。
2.根据权利要求1所述的基于决策的融合信息检索和深度学习的代码注释生成方法,其特征在于,所述步骤(2)中通过融合语义、词法和语法相似度,为目标代码段c找到训练集中最为相似的代码段c(2-1)计算语义相似度:使用适用于代码的预训练模型CodeBert来提取代码语义特征,并通过BERT-whitening操作进行代码语义特征中关键特征提取和降维;通过计算目标代码段c和训练集中代码段的语义向量之间的L2距离,确定出代码段间的语义相似度;随后选择排在前k位语义最相似的代码片段作为候选代码;
(2-2)计算词法相似度:首先根据驼峰大小写命名规则来分割代码序列中的标识符;对代码序列进行去重复操作,以获得代码片段的词元集合;通过Jaccard相似度计算两个代码段之间的词法相似度;
(2-3)计算语法相似度:首先将代码转换为相应的抽象语法树;随后遍历代码抽象语法树的类型节点,以获得有序序列;最后通过计算有序序列之间的编辑距离来计算两个代码段之间的语法相似度;
(2-4)根据词法和语法相似度融合的比例加权求和计算出混合分数后,从候选代码中找出最相似的代码片段c
3.根据权利要求1所述的基于决策的融合信息检索和深度学习的代码注释生成方法,其特征在于,所述步骤(3)中使用基于深度学习的模型生成相应的代码注释,具体包括如下步骤:(3-1)预训练阶段:根据命名规则进行标识符分割,接着通过BPE算法进行子词划分,得到代码序列C=(c(3-2)将向量输入双向编码器进行语义学习,首先将向量输入到多头注意层,利用残差连接和层归一化使矩阵运算维一致,并将网络中的隐含层归一化为标准正态分布,加快了模型的训练和收敛速度,接着,通过前馈层和两个线性映射层,使用激活函数生成向量X(3-3)解码器的每一层在编码器的最终隐藏层上执行额外的交叉注意计算,并通过交叉注意连接;解码器的输出被发送到一个完全连接的神经网络,它可以通过softmax层来预测下一个词元的概率;
(3-4)最后,借助束搜索算法来提高生成的代码注释的质量;
(3-5)微调阶段:不调整模型的bias和LayerNorm.weight参数,采用AdamW方法对其他参数进行微调;使用快速梯度法来获得对抗样本,添加扰乱R
4.根据权利要求1所述的基于决策的融合信息检索和深度学习的代码注释生成方法,其特征在于,所述步骤(4)中在验证集上分析两种模型的性能与两个代码段c和c(4-1)对于验证集中的每一个代码,都能得到基于信息检索和基于深度学习模型产生的注释以及相似度分数;
(4-2)然后把相似度分数集合划分到以0.1为间隔的10个子集上,分别计算每个子集上基于信息检索模型和基于深度学习模型的平均性能,对于每一个评测指标,当两个模型的性能比较结果发生变化时,确定阈值,最后,取四个评测指标下阈值的均值作为最终阈值。
5.根据权利要求1所述的基于决策的融合信息检索和深度学习的代码注释生成方法,其特征在于,所述步骤(5)中当为一个新的目标代码生成注释时,根据基于决策的模块输出对应的代码注释,如果目标代码c与基于信息检索模块检索出的最相似代码c