欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020110611558
申请人: 昆明理工大学
专利类型:发明专利
专利状态:未下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种结合用户评论的司法舆情文本摘要方法,其特征在于,所述方法包括:Step1、编码器分别对新闻正文和对应的新闻评论进行编码,得到新闻正文隐状态序列和对应的新闻评论隐状态序列;

Step2、基于得到的新闻正文和对应的新闻评论隐状态序列,利用双路选择门控去噪网络生成去噪新闻评论隐状态序列;

Step3、基于新闻正文隐状态序列和对应的去噪新闻评论隐状态序列,利用基于双向注意力的融合模块,生成融合用户评论的上下文向量;

Step4、利用注意力机制和单向长短期记忆网络进行解码,得到输出的摘要序列;

所述步骤Step2的具体步骤:Step2.1、首先构造评论到评论的选择性门控去噪模块,其权重计算公式如下:其中 为第m个评论最后一个时刻,即L时刻的隐状态, 为第m个评论l时刻的隐状态,Wc1,Wc2为权重矩阵,bc为偏置向量,σ为sigmod函数;

Step2.2、构造新闻正文到评论的选择性门控去噪模块,其权重计算公式如下:其中 为新闻正文最后一个时刻的隐状态, 为第m个评论l时刻的隐状态,Ws1,Ws2为权重矩阵,bs为偏置向量,σ为sigmod函数;

Step2.3、对Step2.1得到的 和Step2.2得到的 进行线性合并,合并后的权重计算公式如下:

其中μm,l为线性合并系数,其计算公式如下:其中w为权重矩阵,σ为sigmod函数,[;]为拼接操作;

Step2.4、利用Step2.3得到的权重和Step1得到的隐状态,计算得到去噪新闻评论隐状态,计算公式如下:

其中⊙表示按照元素相乘;

Step2.5、最后为了方便表示,将Step2.4得到的去噪新闻评论隐状态序列表示为 其中K=M*L。

2.根据权利要求1所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述Step1中,编码器编码的新闻正文和对应的新闻评论是通过如下方式获取的:从互联网采集数据,对数据进行预处理,构造司法舆情新闻摘要数据集;所述司法舆情新闻摘要数据集的数据格式为:新闻正文‑新闻评论‑摘要。

3.根据权利要求2所述的结合用户评论的司法舆情文本摘要方法,其特征在于:获取编码器编码的新闻正文和对应的新闻评论的具体步骤如下:A、从互联网采集舆情数据并进行格式化处理,得到新闻正文、新闻评论和新闻标题,构造以新闻正文和新闻评论为输入、新闻标题为输出的数据集;

B、利用人工标注的方式,对得到的数据集进行标注,判断每条新闻是否属于司法舆情相关新闻,得到司法舆情新闻摘要数据集;

C、基于步骤A及B得到的司法舆情新闻数据集,进行数据预处理。

4.根据权利要求3所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述步骤C的具体步骤:

C1、过滤新闻正文少于10个字或者新闻标题少于5个字的噪声数据;

C2、过滤新闻评论少于5条的数据;

C3、正文和标题中所有数字以#替代;

C4、过滤正文和标题中的特殊字符;

C5、利用jieba对新闻正文和标题进行分词;

C6、构造词汇表;

C7、划分训练集、开发集和测试集。

5.根据权利要求1所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述步骤Step1的具体步骤为:

Step1.1、新闻正文编码器对输入的新闻文本序列 进行编码,利用下式计算得到编码后的新闻正文隐状态序列 其中N为新闻文本序列长度;

d

其中,BI‑LSTM 为用于新闻正文编码的双向长短期记忆网络,即新闻正文编码器, 为d

BI‑LSTM时间步n的隐状态;

Step1.2、用户评论编码器对输入的评论序列 进行编码,得到用户评论编码后的隐状态序列 其中M为评论个数,L为每个评论包含的单词个数,评论输入序列 中sep为不同评论的分隔符,具体为“||”。

6.根据权利要求5所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述步骤Step1.2的具体步骤:

Step1.2.1利用评论编码器进行编码过程中,设定分割指示器γm,l,通过下式计算得到:

Step1.2.2利用双向长短期记忆网络为每个新闻评论生成对应的隐状态;

c

其中,BI‑LSTM 为用于新闻评论编码的双向长短期记忆网络,即新闻评论编码器,多个用户评论之间共享编码器参数;

Step1.2.3通过下式,利用Step1.2.1生成的分割指示器γm,l对隐状态 进行重置;

7.根据权利要求1所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述步骤Step3的具体步骤:

Step3.1利用Step1得到的编码后的新闻正文隐状态序列 和Step2得到的对应的去噪新闻评论隐状态序列中的第k个元素 构造相似度矩阵S,S中每个元素计算公式如下:其中Ws为权重矩阵,[;]为拼接操作;

Step3.2利用Step3.1得到的相似度矩阵S,计算新闻正文到新闻评论的注意力权重:αn=softmax(Sn,:)其中softmax为归一化函数,Sn,:表示相似度矩阵S的第n行;

Step3.3通过下式计算得到新闻正文到评论的注意力向量;

其中αn,k为Step3.2得到的αn向量的第k个元素, 为Step2得到的对应的去噪新闻评论隐状态序列中的第k个元素;

Step3.4利用Step3.1得到的相似度矩阵S,计算新闻评论到新闻正文的注意力权重:β=softmax(max‑poolingcol(S))其中max‑poolingcol表示对相似度矩阵S按列执行最大池化操作,softmax为归一化函数;

Step3.5利用Step3.4得到的新闻评论到新闻正文的注意力权重β和Step1得到的新闻正文隐状态序列,利用下式计算得到新闻评论到新闻正文的注意力向量:其中βn为Step3.4得到的注意力权重的第n个元素;

Step3.6 利用下式对Step3.3得到的新闻正文到评论的注意力向量 和Step3.5得到的新闻评论到新闻正文的注意力向量 进行拼接,计算得到双向注意力向量:其中Wh为权重矩阵,[;]为拼接操作;

Step3.7 通过下式对Step3.6 得到的双向注意力向量进行重编码,得到编码上下文向量:

r

其中BI‑LSTM为用于进行重编码的双向长短期记忆网络。

8.根据权利要求1所述的结合用户评论的司法舆情文本摘要方法,其特征在于:所述步骤Step4的具体步骤:

Step4.1、解码器包括嵌入层和循环神经网络层;词嵌入层读入解码器前一时刻输出的词,转化为词嵌入向量yt‑1,根据嵌入层输出的yt‑1,前一时刻的隐状态st‑1和注意力向量ct生成t时刻的隐藏状态st,计算过程如下;

st=LSTM(st‑1,yt‑1,ct‑1)其中LSTM为用于解码的单向长短期记忆网络;

Step4.2、根据注意力机制计算st‑1和Step3生成的编码上下文向量计算得到注意力向量ct;

Step4.3、根据下式,利用注意力向量ct和隐状态st计算生成t时刻的解码向量otot=tanh(Wo[st;ct]+bo),其中Wo为权重矩阵,bo为偏置向量,tanh为激活函数,[;]为拼接操作;

Step4.4、根据Step4.3计算得到的解码向量ot,通过下式计算解码向量在目标词汇表的分布Pvocab(yt);

Pvocab(yt)=softmax(Wpot+bp)其中softmax为归一化函数,Wp为权重矩阵,bp为偏置向量;

Step4.5根据步骤Step4.4得到的Pvocab(yt),利用下式计算得到摘要Y={y1,y2,…,yM};

yt=arg max(Pvocab(yt))其中arg max为最大位置函数。