欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020106640100
申请人: 重庆大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于残差注意力的方面级情感分析方法,其特征在于,所述方面级情感分析方法包括以下步骤:S1:对输入的文本和所有的方面目标信息进行编码,将文本和所有的方面目标信息转变成张量形式,得到文本编码;

S2:利用相对位置编码函数对待预测的方面目标在文本中的相对位置信息进行编码,并将得到的位置编码与S1中得到的文本编码进行融合;

S3:利用注意力机制对待预测的方面目标和步骤S2中融入位置编码的文本编码进行处理;

S4:利用残差机制将S3中处理后得到的编码与融入位置信息的文本编码进行结合,作为融合待预测方面目标信息的文本编码;

S5:利用卷积神经网络提取其余方面目标中的特征信息,与步骤S1中得到的文本编码进行交互处理,然后从步骤S4得到的文本编码中过滤,得到最终面向方面级情感分析的特征;

S6:利用最大池化层、全连接层和Softmax层对步骤S5过滤后的文本编码进行处理,得到最终结果。

2.根据权利要求1所述的一种基于残差注意力的方面级情感分析方法,其特征在于,包括建立一种基于残差注意力的方面级情感分析模型,模型包括词向量编码模块、位置编码模块、残差注意力模块、其余方面目标处理模块和情感分类模块;

词向量编码模块:对输入的文本和所有的方面目标信息进行编码,将文本和所有的方面目标信息转变成张量形式,得到文本编码;

位置编码模块:对待预测的方面目标在文本中的位置信息进行编码,并与词向量编码模块得到的文本编码进行融合;

残差注意力模块:利用注意力机制对待预测的方面目标信息编码和融入位置信息的文本编码进行处理,再利用残差机制将融入位置信息的文本编码和注意力机制处理后得到的编码进行结合,作为融合了待预测方面信息的文本编码;

其余方面目标处理模块:用卷积神经网络提取其余方面目标中的信息,对词向量编码模块得到的文本编码进行交互处理,并从残差注意力模块处理得到的文本编码中过滤;

情感分类模块:利用最大池化层、全连接层和Softmax层对最后的文本编码进行处理。

3.根据权利要求1或2所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S1中设定输入的文本集合为 包含n个单词,文本序列的向量表示为c'∈Rn×d;设定待预测的方面目标集合为 包含m个单词,待预测方面目标的向量表示为a'∈Rm×d;设定其余方面目标集合为O={o1,o2,...,ot},共包含t个其余方面目标, 代表其余方面目标集合中的第i个,包含li个单词,第i个其余方面目标的向量表示为 其中d为词向量的维度。

4.根据权利要求1或2所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S2中相对位置编码函数为:将位置编码融入到文本编码中的得到融合了位置信息的文本编码函数为:cp=c'Δexpand(p)

其中,i和j分别代表待预测方面目标首末单词在文中的位置,r和rl是以待预测方面为界,右半文本中离方面目标最近一个其余方面目标的首单词索引以及长度;p∈Rn×1是整个文本相对于待预测方面的位置编码,Δ代表张量的相对位置元素相乘,cp∈Rn×d就是融合了位置信息的文本编码,expand(*)为维度扩展。

5.根据权利要求1或2所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S3中对待预测的方面目标的处理公式为:ha=tan(Conv1d(a'|e,f,q,p,s))h'a=MaxPool1d(ha|s')

其中,e、f、q、p、s和s'分别是卷积和池化操作的参数,ha、h'a分别代表卷积操作后的输出以及最大池化层操作后的输出。

6.根据权利要求5所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S3中对融入位置编码的文本编码进行处理的公式为:hi=Wc·(cp)T+bc

其中Wa∈Rf×f,ba∈Rf×1,WC∈Rf×d,bc∈Rf×1是模型参数,Sa∈Rn×1是注意力机制得到的注意力矩阵,k为卷积核的数量值, 为利用k个卷积核得到的输出 hi代表文本序列加上加上权值参数后的输出,fi代表k个卷积核得到的输出加上权值参数后的结果;

然后对注意力矩阵进行处理公式为:

c”=tan(cpΔexpand(sa))

cr=relu(cp+c”)

其中,Δ代表张量的相对位置元素相乘,expand(*)为维度扩展,c”代表文本序列和注意力矩阵融合后的结果。

7.根据权利要求6所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S5中提取其余方面目标信息中的特征信息表示为O'={o1',o'2,...,ot'},对其进行处理,处理函数如下:g'o=Wo*oe+bo

lo=sigmoid(conv(c')+g'o)

其中,Wo和bo为模型参数,lo为其余方面目标提取到的信息特征,oe代表多个其余目标方面提取到的特征信息均值化操作的结果,g'o代表oe加上权值参数后的结果。

8.根据权利要求7所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S5中得到最终面向方面级情感分析的特征的处理公式为:hc=tan(conv(cr))

hc'=tan(conv(cr)+g')-lo

g'=Wg*he+bg

ho=maxpool(hc×hc')

其中,Wg和bg为模型参数,he为利用k个不同卷积核得到 并在原维度上(k*f)

进行叠加得到的he∈R ,hc代表对经过注意力机制处理后的文本序列进行卷积操作,g'代表待预测的方面信息加上权值参数后的输出,hc'代表在提取到的文本信息和待预测的方面信息进行融合同时从其中过滤掉其余方面的信息,ho代表将通过注意力机制提取到的文本信息和过滤后的文本信息进行融合,并使用最大池化层来提取特征信息。

9.根据权利要求8所述的一种基于残差注意力的方面级情感分析方法,其特征在于,步骤S6中得到最终结果的处理公式为:hm=tan(Wm·ho+bm)

其中,Wm和bm为模型参数。