1.融入源语言词级信息的汉越低资源跨语言摘要方法,其特征在于:所述方法的具体步骤如下:Step1、语料预处理:进行越南语数据采集,采集到的数据通过预处理得到不同规模的平行训练语料、验证语料和测试语料,用于模型训练、参数调优和效果测试;
Step2、源语言词级信息提取:提取器对源语言文档的每个词进行一个打分,提取器首先使用卷积神经网络对每个词进行表征,接着利用循环神经网络对表征后的词进行打分,提取出重要的、关键的词级信息;
Step3、融入源语言词级信息的汉越跨语言摘要模型构建:将机器翻译和单语摘要任务与跨语言摘要任务联合训练,并将提取器提取出源语言词级信息融入到跨语言摘要的生成过程中,使用Step1的语料作为模型输入,产生最终的摘要;
所述Step2的具体步骤如下:
Step2.1、提取器的目标是将源语言文本里的词级信息提取出来,即根据每个词对摘要生成的影响,给每个词进行一个权重分配,将一篇源语言文本其中,公式里e
在公式(3)中,z
所述Step3的具体步骤如下:
Step3.1、将越南语源语言文本
其中,L表示源语言文章中词的个数;
Step3.2、解码器的目标是生成中文摘要
其中,[BOS]和[EOS]分别是输出摘要的开始和结束标签,[LSEP]是将源语言摘要和目标语言摘要区分的分隔符;解码器首先生成源语言摘要在公式(8)中,n和表示源语言摘要中词的个数,n′表示目标语言摘要中词的个数,m表示每个样本的编号,Step3.3、由于跨语言摘要被认为是一种特殊的机器翻译,机器翻译的信息压缩比是1:1,跨语言摘要的信息压缩比是n:1;所以把机器翻译作为联合训练任务,这样在跨语言摘要生成的过程中,更好的解决“跨”的过程;用构建的源语言摘要和目标语言摘要为了更好的利用机器翻译任务来帮助跨语言摘要生成,做了两方面的工作;第一,共享了两个解码器DStep3.4、最终的损失函数如下:
L
这里,λ是个超参数,在实验里,设置为10,最终的训练目标由两个部分构成;第一,在构建的
2.根据权利要求1所述的融入源语言词级信息的汉越低资源跨语言摘要方法,其特征在于:所述Step1的具体步骤为:Step1.1、把越南新闻网站作为数据来源进行越南语数据采集;
Step1.2、而对应汉语摘要的构建,首先利用谷歌翻译工具将采集到的越南语摘要S