1.融入观点句特征的汉越双语新闻情感分类方法,其特征在于:具体步骤如下:Step1、收集汉语、越南语的新闻文本和汉越平行句对;
Step2、使用人工标注的方式对汉语、越南语的新闻文本进行观点句和情感极性的标注;
Step3、使用标注好的汉语和越南语的新闻文本以及汉越平行句对来训练汉越双语词嵌入模型;
Step4、使用步骤Step3得到的汉越双语词嵌入模型将汉语和越南语标注文本的词映射到一个语义空间中,然后将汉语或越南语标注文本中的双语词向量输入到双向LSTM网络中,对新闻文本进行建模,输出每一时刻的隐藏状态;
Step5、使用卷积神经网络抽取观点句特征,并且使用门控网络将观点句特征融入到隐藏状态中;
Step6、使用层次注意力机制对情感信息进行关注:使用层次注意力机制分别从词级和句子级对情感相关的信息赋予不同的权重,并得到新闻文本的向量化表征;
Step7、使用softmax分类器对新闻的情感极性进行分类。
2.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step3中,分别使用标注好的汉语和越南语的新闻文本分别训练汉语和越南语的词嵌入模型,然后使用汉越平行句对词嵌入模型联合训练得到汉越双语词向量。
3.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step4中,将汉语或越南语标注文本中的双语词向量输入到双向LSTM网络中,得到文档中第i句话中第j个词的隐藏状态;具体公式为: 其中, 表示前向LSTM网络输出的隐藏状态, 表示后向LSTM网络输出的隐藏状态,其中,汉越双语词嵌入模型将汉语、越南语新闻的词编码为双语词向量。
4.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step5中,使用观点句特征来增强新闻文本的情感表达;通过多个不同大小的卷积核来抽取不同粒度的观点句特征,然后使用选择性门控网络将观点句特征融入模型的隐藏层中。
5.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step5中,使用卷积神经网络抽取观点句特征的具体步骤如下:Step5.1.1、对于标注好的汉语和越南语文本中的每个句子,将前向LSTM网络和反向LSTM网络输出的最后一个隐状态进行拼接,得到该句子的向量表征si,具体公式为其中表示第i句第Si个词的前向LSTM网络输出的隐藏状态,表示第i句第1个词后向LSTM网络输出的隐藏状态;
Step5.1.2、由于新闻文档中有多个表达观点的句子,因此将文档中标记为观点句的句子的向量表征组成一个矩阵,然后通过多个不同大小的卷积核对该矩阵进行卷积来抽取出观点句特征s′。
6.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step5中,使用门控网络将观点句特征融入到隐藏状态中的具体步骤如下:Step5.2.1、将标注后的汉语和越南语文本中每个句子的向量表征si和观点句特征s′输入到多层感知机中,得到门控向量sGatei;具体公式为:sGatei=σ(Wssi+Uss′+b);
其中,Ws和Us是权重矩阵,b是偏置项,σ是sigmoid激活函数;
Step5.2.2、将Step4输出的隐藏状态hi,j和门控向量sGatei相乘,得到了融入观点句特征后隐藏状态h′i,j;具体公式为:h′i,j=hi,j⊙sGatei;其中,⊙表示向量对应元素相乘。
7.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step6的具体步骤如下:
Step6.1、首先,第一层是句子级的注意力机制,用两层前馈神经网络来预测句子级注意力的权重打分Ai;句子级注意力机制的具体公式为 其中,f是两层前馈神经网络,s′i是融入观点句信息后的句向量,θs表示前馈神经网络的参数;
Step6.2、然后,第二层是词级的注意力机制,同样用两层前馈神经网络来预测词级注意力的权重打分ai.j;词级注意力机制的具体公式为 其中,f同样是两层前馈神经网络,h′i,j是融入观点特征后第i句话第j个词的隐藏状态,θw是前馈神经网络的参数;
Step6.3、最后,将融入观点特征后的隐藏状态h′i,j和词级注意力打分ai.j进行累积求和,并且在句子级上同样和句子级注意力打分Ai进行累积求和,得到了文本的向量表征r,具体公式为
8.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step7中,使用softmax分类器对新闻的情感极性进行分类后,使用交叉熵损失来最小化输出结果和情感标签之间的预测误差,从而通过对预测样本和真实样本标记产生的误差反向传播指导网络参数学习;具体公式为 其中, 是模型预测的情感极性标签向量,yi是标记好的标签向量,λ||θ||2是L2正则化项。