1.一种完全注意力机制的属性级情感分析方法,其特征是,步骤1、将给定的带有真实情感标记分类的用户评论句子作为样本数据,并对样本数据进行预处理;
步骤2、先对预处理后的样本数据进行特征提取,以提取出用户评论句子的词汇的词嵌入特征和属性方面信息词嵌入特征;再将词汇的词嵌入特征作为样本数据的输入特征矩阵,属性方面信息词嵌入特征作为样本数据的属性级方面信息;
步骤3、初始化完全基于注意力机制的网络模型,并将步骤2所得的样本数据的输入特征矩阵和样本数据的属性级方面信息输入到初始化的完全基于注意力机制的网络模型中进行特征学习,在初始化的完全基于注意力机制的网络模型中,先利用SAM‑NN模块学习词汇级语义特征,再利用AAM‑NN模块学习句子级语义特征,后利用FC‑NN模块识别评论语义情感倾向,以得到用户评论句子的预测情感标记分类;
上述利用SAM‑NN模块学习词汇级语义特征的过程如下:步骤3.1.1、将步骤2所得的样本数据的输入特征矩阵映射为查询矩阵、键矩阵和值矩阵;
步骤3.1.2、将步骤2所得的样本数据的属性级方面信息做矩阵线性变换得到属性级特征的隐层表示;
步骤3.1.3、将步骤3.1.2所得的隐层表示分别融合到查询矩阵和键矩阵中,得到已融合属性信息的查询矩阵和已融合属性信息的键矩阵;
步骤3.1.4、将步骤3.1.3所得的已融合属性信息的查询矩阵和已融合属性信息的键矩阵,以及步骤3.1.1所得的值矩阵,分别做m次线性变换,得到m个查询矩阵三元组、键矩阵三元组和值矩阵三元组;
步骤3.1.5、对步骤3.1.4所得的m个查询矩阵三元组、键矩阵三元组和值矩阵三元组分别进行自注意力计算,得到m个融合属性方面信息的词汇级嵌入表示;
步骤3.1.6、将步骤3.1.5所得到的m个词汇级嵌入表示拼接在一起,再通过一个矩阵线性映射网络得到词汇级嵌入特征的隐层表示;
其中m为设定的正整数;
上述利用AAM‑NN模块学习句子级语义特征的过程如下:步骤3.2.1、将利用SAM‑NN模块学习词汇级语义特征所得到的词汇级嵌入特征的隐层表示和属性级特征的隐层表示进行拼接,并通过线性映射得到每个词汇对应的中间变量;
步骤3.2.2、将步骤3.2.1所得的每个词汇对应的中间变量进行softmax回归运算得到每个词汇级嵌入的隐层表示的权重值;
步骤3.2.3、将步骤3.2.1所得的每个词汇级嵌入的隐层与其对应的步骤3.2.2所得的每个词汇级嵌入的隐层表示的权重值进行乘积运算,并将每个用户评论句子中所有的乘积运算结果累加,得到句子级嵌入特征的隐层表示;
步骤4、利用步骤1中的用户评论句子的真实的情感标记分类和步骤3所得的预测情感标记分类对完全基于注意力机制的网络模型进行训练,通过最小化损失函数来优化模型参数,得到训练好的完全基于注意力机制的网络模型;
步骤5、将实测的未带有真实情感标记分类的用户评论句子作为实测数据,并采用与步骤1相同的方法对实测数据进行预处理;
步骤6、采用与步骤2相同的方法对预处理后的实测数据进行特征提取,得到实测数据的输入特征矩阵和实测数据的属性级方面信息;
步骤7、将步骤6所得的实测数据的输入特征矩阵和实测数据的属性级方面信息送入步骤4所训练好的完全基于注意力机制的网络模型中,得到实测数据的情感标记分类。
2.根据权利要求1所述的一种完全注意力机制的属性级情感分析方法,其特征是,步骤
1和5中,对样本数据和实测数据进行预处理的过程包括分词、书写标准化和词性标注。
3.根据权利要求1所述的一种完全注意力机制的属性级情感分析方法,其特征是,步骤
2和6中,还需要进一步提取样本数据和实测数据的用户评论句子的单词的词性信息所对应的嵌入特征和/或单词的位置信息;并将单词的词性信息所对应的嵌入特征和/或单词的位置信息融合到词汇的词嵌入特征,共同作为输入特征矩阵。
4.根据权利要求3所述的一种完全注意力机制的属性级情感分析方法,其特征是,当单词的词性信息所对应的嵌入特征与词汇的词嵌入特征融合时,两者采用拼接的方式进行融合;当单词的位置信息与词汇的词嵌入特征融合时,两者采用求和的方式进行融合。
5.根据权利要求1所述的一种完全注意力机制的属性级情感分析方法,其特征是,步骤
3中,利用FC‑NN模块识别评论语义情感倾向的过程如下:步骤3.3.1、将利用AAM‑NN模块学习句子级语义特征所得到的句子级嵌入特征的隐层表示和属性级特征的隐层表示进行拼接,并通过线性映射得到输出层隐层表示;
步骤3.3.2、利用分类器计算步骤3.3.1所得到的输出层隐层表示进行分类处理,得到用户评论句子的预测情感标记分类。