欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020105283375
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于深度学习的情感文本生成方法,其特征在于,包括以下步骤:

(1)重构情感文本的词向量特征表示和字向量特征表示:将真实情感文本的词向量表示和字向量表示分别输入至编码器部分的双向长短时记忆网络中进行计算,计算出近似标准正态分布的后验分布潜在变量,将潜在变量、前一时刻的隐藏层状态和输出、情感标签向量以及当前时刻结合注意力机制得到的注意力分配权重共同输入至解码器部分的双向长短时记忆网络中进行计算,通过词向量重构表示和字向量重构表示得到真实情感文本的重构情感文本特征表示;

(2)真实情感文本和重构情感文本的真伪判定以及二者的情感判定:首先将真实情感文本和重构情感文本的词特征向量、字特征向量分别输入至深度双向门控循环单元中进行语义特征提取;再将特征向量分别与文本的词语级TF‑IDF、情感注意力融合特征向量以及字符级TF‑IDF、情感注意力融合特征向量进行权重计算得到的加权特征向量同时输入至多特征卷积神经网络中进行文本真伪和情感类别判定;同时将词向量表示输入至基于Stacking算法的集成情感分类模型中进行情感类别判定,最终分别得到真实情感文本和重构情感文本的真伪性、情感倾向性判定结果;

(3)对重构部分和判定部分的进行训练,获取情感文本生成模型;

(4)生成多样化的情感文本:训练完成后,将从近似后验分布潜在变量中进行循环随机采样得到的样本数据与指定的情感标签向量进行结合后输入至解码器中生成对应情感标签的情感文本。

2.根据权利要求1所述的一种基于深度学习的情感文本生成方法,其特征在于,所述步骤(1)包括以下步骤:(11)将真实情感文本分别通过中文领域基于转换器模型的双向编码表示和词向量转换两种预训练模型计算得到的文本词特征向量和字特征向量表示输入至编码器部分的双向长短时记忆网络中进行计算,得到每个时刻下的隐藏层状态输出以及最终的语义编码向量输出;

(12)根据编码器输出的隐藏层状态H对其每个时刻取最大值处理得到Hx后,可利用神经网络计算出其均值和对数方差,并采用重参数化的技巧对其进行转换后,将转换后的潜在变量和情感标签向量输入至解码器部分的双向长短时记忆网络结构中,并结合注意力机制进行序列的输出,输出第k个时刻隐藏层状态sk为:sk=BiLSTM(Z,sk‑1,yk‑1,ck,C),其中Z表示潜在变量,sk‑1表示前一时刻的双向隐藏层状态,yk‑1表示前一时刻的输出,C表示当前目标生成所需要结合的情感标签向量,ck表示当前时刻由编码器的隐藏状态结合注意力机制生成的语义编码向量;

(13)将隐藏层状态sk通过一层神经网络即可分别获得情感文本重构的词向量输出和字向量输出。

3.根据权利要求1所述的一种基于深度学习的情感文本生成方法,其特征在于,所述步骤(2)包括以下步骤:(21)将真实情感文本和重构情感文本的词向量表示输入至基于Stacking算法的集成情感分类模型用于文本的情感判定,其中基分类器模型为朴素贝叶斯模型、决策树模型以及深度双向门控循环单元与多特征卷积神经网络的结合模型,元分类器模型则为支持向量机模型;深度双向门控循环单元与多特征卷积神经网络的结合模型同时接受真实和重构的词向量表示和字向量表示,分别输入至深度双向门控循环单元网络结构中进行计算,得到每个时刻下的隐藏层状态输出以及最终的语义编码向量输出;设文本数据输入X={x1,x2,...,xn},xk表示文本中通过词嵌入处理后的第k个词向量或字向量,则首层正向的第k个隐藏层状态即由门控循环单元计算得到: 同理反向的第k个隐藏层状态即:随后第l层反向的第k个隐藏层状态即: 其正向的第k个隐藏层状态即:

最后连结两个方向的隐藏状态 和 得到最终隐藏状态 即:

并将其输入至输出层;对双向隐藏层状态利用注意力机制分别

计算其注意力权重参数,即: 其中W和V分别

表示权重参数,b表示偏置参数,ek表示语义特征向量,ej表示情感标签向量,αk表示语义特征对文本情感类别的权重;

(22)将各时刻的隐藏层状态输出利用其计算完成对应级别的TF‑IDF特征向量和情感注意力的融合特征向量进行加权计算,得到加权特征向量,输入至多特征卷积神经网络中进行文本的真伪判定和情感判定。

4.根据权利要求1所述的一种基于深度学习的情感文本生成方法,其特征在于,所述步骤(3)包括以下步骤:(31)结合近似后验分布、解码器生成的损失函数并求其对于编码器的梯度来进行超参数更新训练;

(32)结合近似后验分布、解码器生成、解码器分类的损失函数并求其对于解码器的梯度来进行超参数更新训练;

(33)结合判别器生成、判别器分类的损失函数并求其对于判别器的梯度来进行超参数更新训练。