欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2019106800978
申请人: 昆明理工大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:

所述基于案件要素及BiGRU的涉案舆情新闻文本摘要方法的具体步骤如下:

Step1、涉案舆情新闻文本的获取;

Step2、对训练数据进行标记;

Step3、案件要素构建;

Step4、文本特征表示;通过使用词、句子双层循环门控神经网络BiGRU将句子和文本编码成向量,得到句子和文本的向量表示,来提取文本特征;

Step5、使用注意力机制将案件要素融入词、句子编码层得到带有案件要素注意力的句子向量和文本向量;

Step6、使用句子的隐层向量、句子位置信息、句子显著性信息、句子新颖度信息输入到softmax分类层来对句子进行分类,获得最终的分类结果;

其中,通过融合案件要素信息的当前文本的第i个句子的隐层向量hi和文本向量表示d求得句子显著性信息;

使用融合案件要素信息的当前文本的第i个句子的隐层向量hi和之前句子的隐层向量的加权和sj计算得到当前句子和前文的重复信息,当前句子和前文的重复信息经过tanh的激活变化后与 计算后取负值后得到当前句子的新颖度信息。

2.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step1中,采用基于Scrapy框架的爬虫从互联网上搜集相关新闻,并进行人工校对处理,构建涉案舆情新闻文本数据集。

3.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step2中,具体包括:对比每一个句子和摘要句的ROUGE值,采用一种贪婪搜索的方法来寻找最优组合,以此来标记句子是否为摘要句,从而形成训练数据语料。

4.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step3中,具体包括:把“案件名,案发地,涉案人员,案件描述,关键词”作为案件要素,其中关键词是采用TextRank方法从新闻文本中抽取出来的5个关键词,用于表征不同新闻文本所具有的不同的主题信息。

5.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step4中:Step4.1、编码层的输入是一篇含有l个句子的文本d={s1,...si,...sl},其中si表示文本中第i个句子,每个句子由m个词组成s={w1,...wi,...wm};其中wi表示句子s中第i个词;

Step4.2、在词编码层,将句子中每一个词的词向量按顺序送入一个由BiGRU单元构成的神经网络,得到词的隐层向量 是句子中第i个词的隐层向量表示;这一阶段的每个步骤中,前向GRU基于当前输入wi和先前隐层向量表示 计算当前的前向隐层向量 还从wm到w1反向运行第二个GRU来生成后向隐层向量表示 如公式(1)(2)所示:Step4.3、最后,通过拼接前向隐层向量 和后向隐层向量 得到句子si的新表示Step4.4、相似的,文本中每一个句子的 表示,又作为句子编码器的输入;句子编码器同样采用一个BiGRU结构的神经网络,每一个GRU单元输入的是当前句子编码和上一GRU单元句子的隐层表示 拼接双向句子隐层向量后最终得到文本的编码向量d':其中,Wd和bd是参数,l是文本中句子数;

通过词、句子双层编码器能得到句子和文本的向量表示。

6.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step5中,具体包括:将Step3中得到的案件要素当作一个序列,通过一个BiGRU网络编码为一个向量;在Step4的基础上,分别在词、句子两个编码层利用注意力机制融入案件要素信息,得到带有案件要素注意力的句子向量和文本向量。

7.根据权利要求1或6所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step5的具体步骤如下:Step5.1、将一个新闻文本对应的案件要素构成一个集合k={k1,...ki,...kn}作为输入,其中n为案件要素的总数;采用与词编码层一样的词向量对ki进行表示;将k通过一层BiGRU变换,得到的输出作为注意力向量q:将k按顺序送入一个BiGRU单元,得到每一个时间步的隐层状态 最终采用average polling计算所有 的平均值得到注意力向量q:这里,Wk和bk是参数,l是文本中句子数;

Step5.2、在词编码层得到句子向量的过程中,通过案件要素注意力向量q,和每个词计算注意力权重得到 然后计算出融合案件要素信息的当前文本的第i个句子的隐层向量其中,m是当前句子的长度, 是当前句子第i个词的隐层向量表示; 是融合案件要素信息的当前文本第i个句子的隐层向量;

Step5.3、在句子编码层得到文本的向量表示d的过程中,首先通过案件要素注意力向量q,和每个句子计算权重得到 然后融合案件要素的信息和句子的隐层向量生成当前文本的向量表示d:这里, 是融合案件要素信息的当前文本第i个句子的隐层向量,l表示当前文本共有l个句子;经过Step5能得到含融合案件要素信息的句子向量表示和文本向量表示。

8.根据权利要求1所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step6中具体包括:

利用Step5中得到的带有案件要素注意力的句子向量和文本向量计算出句子的显著性信息,利用句子在文本中的位置计算出绝对位置和相对位置特征,用Nallapati的思想通过之前句子的加权和与当前文本的第i个句子的隐层向量hi得到句子的新颖度信息,综合句子的隐层向量、句子显著性信息、句子位置信息、句子新颖度信息、绝对位置和相对位置特征对句子进行分类。

9.根据权利要求1或8所述的基于案件要素及BiGRU的涉案舆情新闻文本摘要方法,其特征在于:所述步骤Step6的具体步骤如下:

Step6.1、通过融合案件要素信息的当前文本的第i个句子的隐层向量hi和文本向量表示d求得句子显著性信息salience:使用融合案件要素信息的当前文本的第i个句子的隐层向量hi和之前句子的隐层向量的加权和sj计算得到当前句子和前文的重复信息,当前句子和前文的重复信息经过tanh的激活变化后与 计算后取负值后得到当前句子的新颖度信息novelty:其中,hi是融合案件要素信息的当前文本的第i个句子的隐层向量,d是融合案件要素信息的当前文本向量表示,Ws,Wr是一个参数矩阵;j表示第j个句子的j;

最终使用公式(13)来对句子进行分类

其中,hi是融合案件要素信息的第i个句子的隐层向量,Wc是当前句子内容的隐层向量对应的参数矩阵,salience表示第i个句子在整篇文章中的显著性信息,novelty表示第i个句子和前面句子相比所具有的新颖度信息,Pia和Pir分别为第i个句子绝对位置和相对位置的信息,Wap、Wrp是对应的参数矩阵; 是hi的转置,yi表示当前样本标签为1的概率,即当前句子分类结果为1的概率;

最终的句子被分为两种标签,是摘要句和不是摘要句,针对这样的二分类的问题,选择交叉熵作为损失函数:这里N表示文本的数量,l表示每个文本句子数,下标p表示第p篇文本,共N篇文本,dp表示第p篇文本的文本向量表示。