1.一种基于自注意变分自编码的类案推荐方法,其特征在于:所述方法的具体步骤如下:Step1、对案件文本进行分词、构建词表和隐去案件类型的预处理;
Step2、获取案件文本的词频统计特征;
Step3、使用自注意力机制得到案件文本的上下文特征;
Step4、构建基于自注意机制的变分自编码模型,融合文本的词频统计特征和上下文特征,得到案件的融合特征向量;
Step5、使用融合特征向量的期望作为案件文本的表征向量,再使用这个向量计算与其他向量的相似性从而实现类案推荐;
所述步骤Step4构建基于自注意机制的变分自编码模型的具体步骤如下:Step4.1、使用词袋模型和MLP网络获取文本词频特征hi:hi=bow(Xi),其中hi为包含统计特征的向量,Xi表示案件文本,bow为统计特征获取模型;
Step4.2、使用自注意机制获取上下文特征 其中 为包含上下文特征的向量,Xi表示案件文本,self attention为自注意力机制;
Step4.3、根据变分自编码的特点构建变分自编码模型,模型编码器为:μi=MLPμ(Hi)
σi=MLPσ(Hi)
zi=μi+σi∈i
其中MLPμ为均值提取层,MLPσ为方差提取层,μi为Hi的均值向量,σi为Hi的方差向量,zi为隐含向量,∈i为一个采样自正太分布的向量;
模型解码器为:
βi=softmax(zi)
其中MLPd为解码层, 为重构向量,βi为变分向量的分布;
损失函数定义为:
其中ci为文本的词频统计特征, 为重构损失, 为KL散度损失,为总损失,d为维向量的维度,μij为向量μi中的元素,σij为向量σi中的元素。
2.根据权利要求1所述的基于自注意变分自编码的类案推荐方法,其特征在于:所述步骤Step2中,首先使用词袋模型得到案件文本的词频信息,然后使用MLP网络提取出词频信息中的词频统计特征hi。
3.根据权利要求1所述的基于自注意变分自编码的类案推荐方法,其特征在于:所述步骤Step3中,首先获取案件文本的词嵌入特征和位置信息,再利用自注意机制从词嵌入特征和位置信息中提取出案件文本的上下文特征
4.根据权利要求1所述的基于自注意变分自编码的类案推荐方法,其特征在于:所述步骤Step4中,使用统计特征和上下文特征共同表征案件文本,将统计特征和上下文特征融合使用MLP网络拟合出融合特征的期望和方差,最后使用重参数技巧使特征向量z服从正态分布z=MLPμ(H)+MLPσ(H)*ε,其中ε~N(0,I)。
5.根据权利要求1所述的基于自注意变分自编码的类案推荐方法,其特征在于:所述步骤Step4中,变分自编码模型的编码器输入为文本的词频统计特征和上下文特征,解码器输出的重构特征为文本的词频特征。