欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2022117308457
申请人: 湖北工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-01-05
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于依赖树的方面级情感分析交互卷积网络,包括输入编码层,其特征在于,还包括注意力层、依赖树层、图卷积层、交互网络层、以及输出层,所述输入编码层,用于接收外部输入的句子单词表示s,生成句子隐藏状态向量表示H和关于方面词的上下文隐藏状态向量表示C;

所述注意力层,用于计算出方面词隐藏状态向量表示Ha的注意力分数aspatt和句子隐藏状态向量表示H的自注意力分数selfatt;

所述依赖树层,用于根据句子单词表示生成依赖树,并获得对应的句法结构图表示synd ,将依赖树按照语法距离分隔获得句法结构子图表示syn

所述图卷积层,用于根据d 和selfatt,利用Att‑GCN模型计算输出Ad;根据和aspatt,利用Att‑GCN模型计算输出{Ad1,Ad2,Ad3};

所述交互网络层,用于将Ad、Ad1、Ad2、Ad3输入到Att‑GCN网络进行交互操作,获得输出以及 计算最终方面词表示的输出 将 和C进行平均池化后进行交互获得输出 将 和Aasp进行平均池化后进行交互获得输出其中,[;]代表横向维度上的拼接;

所述输出层,用于根据 和 进行拼接操作,再进行分类获得分类概率{α1,α2,α

3},

所述Att‑GCN模型基于以下公式:

d syn

H=GCN(H,D )

d syn

其中,H 代表句子隐藏状态向量表示H和相关句法结构图表示D 经过图卷积神经网络GCN处理之后的中间向量矩阵,相关句法结构图表示 相关注意力分数att∈{selfatt,aspatt}, 表示向量矩阵的相乘,所述Att‑GCN网络基于以下公式:

其中: 分别为第l层Att‑GCN网络的四个输入,分别是第l层Att‑GCN网络的四个输入对应的四个输出,也即第l+1层Att‑GCN网络的四个输入,对于第1层Att‑GCN网络的四个输入 分别为Ad、Ad1、Ad2、Ad3,Wl为第l层Att‑GCN网络的权重参数向量矩阵,bl为第l层Att‑GCN网络的偏置项向量矩阵,d代表句子向量表示的维数,

T代表着向量矩阵的转置操作,

最后一层ATT‑GCN网络的输出分别记为 z表示最后一层ATT‑GCN的序号。

2.根据权利要求1所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述输入编码层根据句子单词表示s生成句子向量表示x,基于以下公式计算句子隐藏状态向量表示H中对应的第i个单词隐藏状态向量hi:其中,i代表序号,xi代表句子向量表示x中的第i个句子单词向量, 代表不同处理数据方向的单向门控循环神经网络GRU, 和 代表xi经过 和 处理后的单词隐藏状态向量,关于方面词的上下文隐藏状态向量表示C基于以下公式:C=unmask(H)

其中,unmask函数是将句子隐藏状态向量集合H中的方面词对应的单词隐藏状态向量进行置0操作。

3.根据权利要求2所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述方面词隐藏状态向量表示Ha的注意力分数aspatt基于以下公式计算:Ha=mask(H)

其中,Ha代表方面词隐藏状态向量表示,H代表着句子隐藏状态向量表示,T代表着向量矩阵的转置操作,softmax()代表归一化指数函数,dw表示H的横向维度,mask函数将方面词的上下文隐藏状态向量进行置0。

4.根据权利要求3所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述句子隐藏状态向量表示H的自注意力分数selfatt基于以下公式:

5.根据权利要求4所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述输出Ad基于以下步骤获得:syn syn syn

将D 选择为d ,att选择selfatt,将句子隐藏状态向量表示H和D 输入到Att‑GCN模型中,输出ad作为输出Ad;

所述输出{Ad1,Ad2,Ad3}基于以下步骤获得:syn syn

D 遍历选择为 att选择aspatt,将句子隐藏状态向量表示H和D 输入到Att‑GCN模型中,对应的三个输出ad分别作为输出{Ad1,Ad2,Ad3}。

6.根据权利要求5所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述交互网络层中平均池化后的交互基于以下公式:c

其中,f是关于方面词的上下文隐藏状态向量表示C的平均池化后的输出, 是输出Ad的平均池化后的输出, 是最终方面词表示的输出Aasp的平均池化后的输出。

7.根据权利要求6所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述分类概率{α1,α2,α3}基于以下公式获得:out′=softmax(Linear(out))output=out′

sfotmax()代表归一化指数函数,Linear()代表线性函数;

out为拼接后的输出;

out′为最终的输出;

output为各个标签的分类概率{α1,α2,α3},其中,α1,α2,α3∈[0,1],α1+α2+α3=1。

8.根据权利要求7所述基于依赖树的方面级情感分析交互卷积网络,其特征在于,所述ATT‑GCN网络的损失函数L(p(y),q(y))基于以下公式:其中,p(y)为样本真实分布,即句子单词表示中标注的数据标签;

q(y)为样本预测分布,即样本数据y的各个标签的分类概率output;

∑代表着求和,y代表输入的样本数据,即句子向量表示x,λ为正则化参数;

代表加入的L2正则化公式,θ代表Att‑GCN网络中学习参数。