欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2023106059597
申请人: 湖北工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于自注意力路由胶囊网络的方面级情感分析方法,其特征在于,包括以下步骤:步骤1、选取基准数据集,对基准数据集进行预处理并生成训练集和测试集,训练集中的每个样本包括句子和句子中的一个实体;

步骤2、通过预训练的Glove模型对句子和对应的实体进行词向量化,获得句子的词向量和实体的词向量;

步骤3、根据句子的词向量和实体的上下文之间的相对位置信息ti,计算实体的增强表示P={p1,p2,...,pn},n为句子的单词长度;

步骤4、通过预训练的BERT Encoder模型对实体的增强表示P={p1,p2,...,pn}和实体的词向量进行编码,获得上下文表示H=[h1,h2...,hn]和实体表示hα;

步骤5、根据上下文表示H=[h1,h2...,hn]和实体表示hα构建上下文胶囊ci和实体胶囊a,根据上下文胶囊ci和实体胶囊a计算上下文胶囊的实体相关权重oi,i∈{1~n};

步骤6、将得到的上下文胶囊ui作为第一层分类胶囊层中的各个分类胶囊,相邻层的分类胶囊层之间经过自注意力路由层连接,最后一层分类胶囊输出最终的情感标签分类结果,如上所述步骤3中,第i个单词相对于实体的位置偏差权重ti基于以下公式:其中,m和n分别表示实体和句子的单词长度,γ是实体第一个单词的位置下标,pi=ti·ei

其中,i∈{1~n},ei是句子的词向量E={e1,e2,...,en}中第i个单词的词向量,如上所述步骤5中,基于以下公式构建上下文胶囊ci和实体胶囊a:ci=squash(Whhi+bh)

a=squash(Wahα+ba)

其中,Wh,bh,Wa和ba均是学习参数,squash()是非线性挤压函数,如上所述步骤5中,基于以下公式计算上下文胶囊的实体相关权重oi:其中,Wo是学习参数,oi是上下文胶囊的实体相关权重,D是预定义的上下文胶囊层中胶囊的个数,D小于n,如上所述步骤5中与实体相关的上下文胶囊ui=ci·oi。

2.根据权利要求1所述基于自注意力路由胶囊网络的方面级情感分析方法,其特征在于,如上所述步骤6中,第l+1层分类胶囊Ul+1基于以下公式:其中,为第l层分类胶囊计算得到的预测结果,T为转置操作,Cl是系数矩阵,Bl为随机初始化得到的对数先验矩阵,其中,Al为耦合系数,nl、nl+1分别为第l、l+1层分类胶囊的个数,其中,为平衡系数。

3.根据权利要求2所述基于自注意力路由胶囊网络的方面级情感分析方法,其特征在于,如上所述步骤6中最后一层的分类胶囊由分类胶囊组成,其中j为实体的情感标签yj的序号,分类胶囊的激活概率

4.根据权利要求3所述基于自注意力路由胶囊网络的方面级情感分析方法,其特征在于,最后一层分类胶囊的损失为C为情感标签的总种类数,以优化得到最小损失L为目标,使用Adam优化器对分类胶囊的网络参数进行优化,Lj为最后一层分类胶囊的每个分类胶囊的损失函数:Lj=Tjmax(0,m+-||vj||)2+λ(1-Tj)max(0,||vj||-m-)2其中,λ,m+和m-均为超参数,若最后一层的第j个分类胶囊的vj值最大值时,对应的Tj=1,否则Tj=0。