1.一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,包括以下步骤:S1、数据获取步骤:获取中文文本序列;
S2、数据预处理步骤:对S1中得到的中文文本序列进行分词,得到分词后的情感词集合,包括:形容词、动词和副词;
S3、情感色彩确定步骤:在情感词典中查询S2中得到的分词后情感词集合,标注带有情感极性的情感词;
S4、文本编码步骤:将S3中得到的标注好的带有情感极性的情感词典匹配信息与原始文本进行结合,对结合后的文本进行编码;
S5、池化层优化步骤:构建池化输出层的分类器为二分类的BERT深度学习框架,使用交叉熵损失函数对BERT深度学习框架进行训练;
S6、对比学习网络步骤:将池化层的输出与预测器的多层感知器输入相连接,预测器的输出结果与S5中的池化层输出结果进行对比学习,设置损失函数为欧式距离,训练epoch。
2.根据权利要求1所述的一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,S2中分词的具体内容如下:
使用LTP分词工具提取形容词、动词和副词,得到分词后的情感词集合Sl={LTP.segadj(S),LTP.segverb(S),LTP.segadverb(S)}。
3.根据权利要求2所述的一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,S3中具体步骤包括:
S301:根据分词集合获取对应词的情感极性,从情感词典库R中进行查询并构建情感词极性集合:Ssenti={(w,rw)},w∈R,rw∈R;
其中,情感词典库采用NTUSD情感词典库,w为情感词,rw为词w的情感极性,rw∈{0,1},Ssenti为情感极性标注集合;
S302:对于情感词典库中未命中的情感词,则使用自定义补充的情感词典库:其中,S'senti为自定义的情感组合关系集合、R'为自定义场景补充的情感词典集;
S303:对于在情感词典库以及补充词典库中均未检索到的感情词,设置情感极性为中性,用0.5表示中性的情感极性值:Ssenti_mid={(w1_mid,rw_mid1),(w2_mid,rw_mid2),…,(wn_mid,rw_midn)},rw_mid∈{0,0.5,1}。
4.根据权利要求3所述的一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,S4中具体内容包括:
S401:将原始的句子文本序列与分词后进行情感词典匹配的情感词组极性集合进行融合,使用BERT模型的编码器BertTokenizer进行编码,基于BertTokenizer编码结果再次进行concat组合操作,得到融合后的编码:其中,Es为原始的文本序列编码,为情感词典增强的信息编码;
S402:将S401中得到的融合后的编码输入到Encoder层,将输入的融合后的编码分成三等分为:Query,Key,Value,随后将三等分后的融合编码输入注意力层,基于多头注意力将多个数据并行进行计算,其中多头注意力计算公式包括:并捕获单词之间多种维度上的相关系数:
MultiHead(Q K,V)=Concat(head1,…,headh)WO;
其中,注意力的输出进行10%的Dropout操作,p设置为0.1:S403:将S402得到的注意力网络输出输入到全连接层,得到全连接特征,hf=hW+b,其中W为全连接层向量参数,b为全连接层线性变化偏置参数,使用GELU作为激活函数:S404:将S403中得到的激活层特征向量输入到池化层,对特征进行全连接层降维,设置输出维度,再次进行归一化,并对归一化后的特征进行随机的Dropout:ho=hgW1+b1;
其中,W1∈Rq×768为池化层的参数向量,b1∈R1×768为池化层线性变化的偏置向量,hg为上一层输出的特征向量,ho为池化层经过降维的特征向量。
5.根据权利要求4所述的一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,S5中具体内容包括:
S501:对于S4的输出,从向量中取出第一个[CLS]向量信息,进入一层全连接层,再使用Tanh作为激活函数使输出中心化在零点,即均值为0,得到将不同类型的特征聚合分布在零点的四周的特征向量,过程公式表示如下:hp=hoW2+b2;
hP=tanh(hP);
其中W2∈R768×768,b2∈R1×768;
S502:设置一个线性分类器,输出结果为2分类,表示两种情感极性,分类结果中,第一个值大于第二个值,则表示情感极性为消极,反之,则表示积极的情感极性:hc=hpW3+b3;
其中,W3∈R768×2为分类器线性特征向量学习参数,b3∈R1×2为二分类的线性分类器的偏置参数,hc为分类结果向量,向量维度为1,长度为2,p为分类结果,结果值为0或者1,分别代表第一类和第二类;
S503:将上一步输出的结果与训练样本对应的情感极性标注进行比较,使用交叉熵作为损失函数,并对模型进行反向传播:Loss(y,p)=-[y·log(p)+(1-y)·log(1-p)];
y为数据集中标注的分类值,设置为0或者1,分别表示负面情感极值或者正向情感极值;
S504:进行20轮epoch的训练。
6.根据权利要求5所述的一种基于对比学习的深度学习中文句子文本情感分析方法,其特征在于,S6中具体内容包括:
输入两个不同的数据到网络模型中进行学习,将二者的特征进行对比,正样本对之间的特征相似度拉近,负样本对之间的特征相似度拉远。