欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020106599572
申请人: 暨南大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于字符的层次化文本情感分析方法,其特征在于,包括下述步骤:文本预处理:对给定的文本数据进行预处理,包括设计字符集、划分文本中的句子、基于字符集得到数字形式的文本表示;

建立字符级别的神经网络模型:将预处理后的文本数据输入字符级别的神经网络模型,依次经过模型嵌入层、卷积神经网络层和解码层,提取并输出文本中每个句子的特征向量;

所述建立字符级别的神经网络模型,具体步骤包括:

所述模型嵌入层以预处理后的文本的每个句子作为输入单位,将句子的每个字符的下标转化成对应的唯一向量化表示,每个句子的表示形式由一维的下标序列转化为二维的字符向量序列;

所述卷积神经网络层采用多个不同大小的一维卷积核,同时对所述二维的字符向量序列进行卷积运算和全局最大池化运算,将运算结果进行拼接,得到多卷积核运算的输出结果;

所述解码层以所述多卷积核运算的输出结果作为输入,通过全连接层提取句子的特征向量,所述句子的特征向量作为句子级别的神经网络模型的输入;

建立句子级别的神经网络模型:以字符级别网络的输出作为输入,依次经过循环神经网络层、注意力层和解码层,输出文本的情感分类的概率分布;

所述建立句子级别的神经网络模型,具体步骤包括:

所述循环神经网络层以字符级别的神经网络模型的输出作为输入,通过双向循环神经网络得到每个时间步的输出和上下文向量;

所述注意力层采用注意力机制,以双向循环神经网络的输出作为值项、以其连接一个全连接层后的输出作为键项,以上下文向量作为查询项,得到循环神经网络各时间步输出的权重分布,将输出和权重相乘后再相加得到整个文本的向量表示;

以所述整个文本的向量表示通过全连接层输出情感分类的数值分布,再对结果采用softmax运算将其转化为情感分类的概率分布,概率较大者即为情感分析预测结果。

2.根据权利要求1所述的基于字符的层次化文本情感分析方法,其特征在于,所述文本预处理的具体步骤包括:设计字符集合,包括给定文本的语言下的基本字符,将该字符集合包装成字典,所述字典用于通过字符查找到对应下标,通过下标查找对应的字符;

划分文本中的句子:以给定文本的语言的句子结束符作为分割符,将单个文本分割成多个句子的集合;

基于字符集得到数字形式的文本表示:基于所述字典,将每个文本中的每个句子从字符序列转化为对应的下标序列,完成文本从字符形式向数字形式的转化。

3.根据权利要求2所述的基于字符的层次化文本情感分析方法,其特征在于,所述基于字符集得到数字形式的文本表示,具体步骤包括:字符分割:将文本的每个句子分割为多个字符,存储在字符类型数组中;

大小写转化:将原文本中组成词语的字符全部替换为小写形式;

文本数字化:对照所述字典,将文本中所有字符转化成在字典中对应的下标,使文本由字符形式转化为数字形式;

统一句子长度:如果句子长度超过了设定的阈值,则进行裁剪,舍弃超出长度的句子部分;如果句子长度达不到设定的阈值,则用下标0进行填充至句子长度达到阈值;

统一文本长度:如果文本中句子的数目超过了设定的阈值,则进行裁剪,舍弃超出数目的部分句子;如果文本中句子的数目达不到设定的阈值,则用下标均为0的统一长度的句子填充文本至句子数目达到阈值。

4.根据权利要求1所述的基于字符的层次化文本情感分析方法,其特征在于,所述将句子的每个字符的下标转化成对应的唯一向量化表示,具体采用方式为:对句子中的字符下标进行one-hot编码。

5.根据权利要求1所述的基于字符的层次化文本情感分析方法,其特征在于,所述对所述二维的字符向量序列进行卷积运算和全局最大池化运算,具体步骤包括:对所述二维的字符向量序列进行单层的卷积运算并连接非线性激活函数ReLU,卷积运算的步长设置为1。

6.根据权利要求1所述的基于字符的层次化文本情感分析方法,其特征在于,所述以双向循环神经网络的输出作为值项、以其连接一个全连接层后的输出作为键项,以上下文向量作为查询项,得到循环神经网络各时间步输出的权重分布,将输出和权重相乘后再相加得到整个文本的向量表示,具体步骤包括:将每个时间步的输出通过一个单层的多层感知机并以Tanh作为激活函数得到输出的隐藏表示,作为注意力机制中的键项;

以上下文向量作为注意力机制的查询项,将键项依次和查询项进行向量相乘,得到针对每个时间步输出的注意力分布,然后对所述注意力分布执行softmax运算,转化为概率分布,使得所有时间步所占注意力的比例之和为1;

以每个时间步的输出作为注意力机制的值项,将每个时间步所占的注意力比例与对应的值相乘,再将得到的所有时间步的结果相加,得到基于权重的文本中所有句子向量的和,即该文本的特征向量。

7.一种基于字符的层次化文本情感分析系统,其特征在于,包括:文本预处理模块、字符级别的神经网络模型建立模块和句子级别的神经网络模型建立模块;

所述文本预处理模块用于对给定的文本数据进行预处理,包括设计字符集、划分文本中的句子、基于字符集得到数字形式的文本表示;

所述字符级别的神经网络模型建立模块用于将预处理后的文本数据输入字符级别的神经网络模型,依次经过模型嵌入层、卷积神经网络层和解码层,提取并输出文本中每个句子的特征向量;

建立字符级别的神经网络模型,具体包括:

所述模型嵌入层以预处理后的文本的每个句子作为输入单位,将句子的每个字符的下标转化成对应的唯一向量化表示,每个句子的表示形式由一维的下标序列转化为二维的字符向量序列;

所述卷积神经网络层采用多个不同大小的一维卷积核,同时对所述二维的字符向量序列进行卷积运算和全局最大池化运算,将运算结果进行拼接,得到多卷积核运算的输出结果;

所述解码层以所述多卷积核运算的输出结果作为输入,通过全连接层提取句子的特征向量,所述句子的特征向量作为句子级别的神经网络模型的输入;

所述句子级别的神经网络模型建立模块用于以字符级别网络的输出作为输入,依次经过循环神经网络层、注意力层和解码层,输出文本的情感分类的概率分布;

建立句子级别的神经网络模型,具体包括:

所述循环神经网络层以字符级别的神经网络模型的输出作为输入,通过双向循环神经网络得到每个时间步的输出和上下文向量;

所述注意力层采用注意力机制,以双向循环神经网络的输出作为值项、以其连接一个全连接层后的输出作为键项,以上下文向量作为查询项,得到循环神经网络各时间步输出的权重分布,将输出和权重相乘后再相加得到整个文本的向量表示;

以所述整个文本的向量表示通过全连接层输出情感分类的数值分布,再对结果采用softmax运算将其转化为情感分类的概率分布,概率较大者即为情感分析预测结果。