1.基于差异性案件要素的案件舆情时间线生成方法,其特征在于,包括:Step1、抽取差异性要素和获取案件时间,并将它们与微博文本一起作为BERT模型的输入,生成文本的高维向量表征;
Step2、利用自编码器将文本的高维向量表征经过线性变换生成低维特征向量,通过BOW重构文本,提高上下文一致性;
Step3、基于低维特征向量和K‑Means聚类的方法,并通过自编码过程中的重构损失和聚类损失不断微调聚类中心,生成最终舆情案件时间线。
2.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step1之前,先收集并处理涉案舆情时间线数据作为训练语料和测试语料;
其中,具体的,借助互联网爬虫自动获取新浪微博中的涉案舆情文本信息作为数据来源,构建两种不同讨论热度的涉案舆情时间线数据集,并以9:1的比例划分训练集、测试集。
3.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step1中,抽取差异性要素包括:首先在涉案舆情时间线数据集中,根据数据集的微博文本数目,通过词频‑逆文档频率TF‑IDF算法分别抽取描述案件的10个案件要素,记作kdoc;然后在每条微博文本中,使用同样的方法选择词频最高的5个案件关键词,则第i条微博文本的案件关键词记作 最后选取每条微博文本中非案件要素的案件关键词作为差异性要素ki,如公式(1)所示:其中,ki表示第i条微博文本的差异性要素,‑表示案件关键词与案件要素做差值运算。
4.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step1中,获取案件时间包括:在案件舆情时间线生成过程中,案件时间是一个很重要的因素,案件时间是从微博文本的发文时间中获得的;
从微博文本提取案件时间为YYYY‑MM‑DD,其中,YYYY表示年,MM表示月,DD表示日;然后,将案件时间按日期从小到大排序,取最小的案件时间表示为时间标签0,然后将其他的案件时间与该最小的案件时间做差值,差值结果作为其他案件时间对应的时间标签值t。
5.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step1中,生成文本的高维向量表征包括:在编码层阶段,采用的BERT模型的输入部分是个线性序列,每一条输入文本si由差异性要素ki、时间标签ti和微博文本ci拼接得到,它们通过分隔符[SEP]分割,最前面和最后分别增加标志符号[CLS]和[SEP],如公式(2)所示:其中,si表示第i条输入文本, 表示拼接运算;
然后,经过BERT模型得到文本的高维向量表征vi,如公式(3)所示:vi=BERT(si) (3)其中,BERT()表示BERT函数,vi表示第i条高维向量表征。
6.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step2的具体做法如下:高维向量表征vi经过自编码进行线性降维MLP,得到文本的低维特征向量 如公式(4)所示:
其中,MLP()表示自编码器中对高维向量表征vi进行线性降维;
在线性降维过程中,使用词袋模型BOW重构文本提升聚类性能,在重构文本表示过程中的重构损失为Lossrec,如公式(5)所示:其中,θ是BERT中编码部分的参数,θ1是自编码器中重构之后的文本参数,V是词典的大小为BERT中文预训练模型chinese_L‑12_H‑768_A‑12中的vocab.txt文件。
7.根据权利要求1所述的基于差异性案件要素的案件舆情时间线生成方法,其特征在于:所述Step3包括如下:
经过线性降维之后得到压缩数据,选择k‑means算法作为聚类算法,且引入软聚类算法,将文本以一定的概率分配到各个类别中;
首先随机初始化聚类中心,然后重复以下两个步骤:步骤1:计算一个向量文本放入每个簇的概率;
步骤2:计算辅助的概率分布,作为编码网络的目标;网络权重和聚类中心会迭代更新,直到满足条件为止;
针对步骤1,函数衡量向量的嵌入表示zi放入uj簇的概率符合自由度为1的学生t‑分布;
其中,qij表示使用学生t‑分布作为函数衡量向量的嵌入表示zi和类j的中心uj之间的相似性得分;
针对步骤2,使用一个辅助目标分布概率pij,与相似性得分qij相比,概率pij的目的是提高聚类纯度,定义如公式(7)所示,其定义依赖于qij的分布;
其中, 是软群频率;
每次迭代需要更新的参数为:
公式(9)是优化自编码中的编码端参数,公式(10)是优化软聚类中心;其中,α表示学生t‑分布的自由度,值为1;
聚类通过最小化软聚类标签分布Q和辅助目标分布P之间的KL散度来得到最优的聚类结果,如公式(10)所示:
公式(10)也是软聚类过程中的损失函数,最小化目标函数Lossclu是自训练的一种形式;
在软聚类过程中,仅仅使用聚类损失会使嵌入特征空间被篡改,因此自编码器的重构损失也被加入到损失函数中,与聚类损失同时被优化,最终得到的文本损失为Loss,如公式(11)所示,通过最终损失不断微调BERT,优化整个聚类过程:Loss=Lossrec+Lossclu (11)其中,Lossrec为重构损失,Lossclu为聚类损失。