1.一种基于递归卷积神经网络的中文句子语义相似度计算方法,其特征在于,所述方法基于语义相似度网络模型进行计算,所述基于语义相似度网络模型包括DeBERTa模型、递归卷积神经网络模型、Attention层和全连接层;所述递归卷积神经网络模型中的最大池化层被替换为自适应池化层;全连接层采用Softmax函数;所述方法包括如下步骤:步骤一、获取句子对数据集,提取数据集中的句子对,将句子对进行预处理,得到分词后的文本句子对;
步骤二、在 DeBERTa模型和递归卷积神经网络模型中提取句子对的初步语义特征和深度语义特征;
步骤三、使用Attention层,根据句子对的深度语义特征生成句子对特征向量的权重;
步骤四、将句子对特征向量的权重输入全连接层,生成句子对的相似度;
步骤二包括如下步骤:
步骤2.1、将预处理过的句子对输入DeBERTa模型,通过DeBERTa对句子对进行词嵌入得到动态的词向量,提取句子对的初步语义特征;
所述DeBERTa模型使用解耦注意力机制DAM将每个词都用两个向量表示,分别对其内容和相对位置进行编码,之后分别根据词的内容和相对位置,通过Transformer的 Self-attention自注意力机制计算权重;
步骤2.2、将步骤2.1中得到的词向量输入递归卷积神经网络模型,提取句子对深层语义特征;
所述递归卷积神经网络模型,包括双向长短期记忆网络BI-LSTM 、CNN卷积层和自适应池化层;
步骤2.2中,深层语义特征生成方法为:
词向量经过拼接双向LSTM模型输出后,输入到CNN卷积层,CNN卷积核对特征向量进行训练得到深层语义特征向量;CNN卷积层得到的深层语义特征向量进入自适应池化层,在自适应池化层中,根据输入特征通道中不同的局部区域调整每个位置的权重大小;
在CNN卷积层之后,自适应池化层利用分类网络提取到特征提取层的最后一层的高层语义信息F,,H、W、C分别是图像的高度、宽度、深度;对于每一个维度的特征图,,采用一个的卷积核去依次获取每个位置和他周围位置的信息以生成该位置的重要性程度权重。
2.根据权利要求1所述的计算方法,其特征在于,步骤一中:
句子对数据集中,包括数条文本数据,其中每个数据里有一对句子,其用“,”隔开;预处理包括去除问题句子对、词性标注、分词处理和向量化处理。
3.根据权利要求1所述的计算方法,其特征在于,步骤四中,中文句子对语义相似度计算方法为:利用函数对句子对的深层语义特征进行归一化处理,计算深层语义特征之间的皮尔逊系数,用余弦相似度计算句子对的相似度:;
其中,、 分别表示句子对里的第一个句子、第二个句子中每个词的深层语义特征向量;
根据句子对相似度来判断句子是否相似,相似判断为1,不相似判断为0。
4.根据权利要求1所述的计算方法,其特征在于,所述语义相似度网络模型还包括优化模块,所述优化模块包括Adam模块和dropout模块,通过优化模块对语义相似度网络模型进行优化。