1.融合领域知识图谱的汉越跨境民族文本检索方法,其特征在于:所述方法的具体步骤如下:Step1、进行汉越跨境民族文本数据预处理:汉越跨境民族文本数据通过过滤、筛选、去停用词、特殊符号操作后获得傣族、泰族、彝族、佬族、阿萨姆族、掸族六个汉越跨境民族文本数据;
Step2、基于汉越知识图谱对查询文档进行扩展:抽取查询或文本中的中文或越南语实体,抽取出的实体与汉越知识图谱实体链接扩展出相关实体;另外,为了扩充汉越跨境民族中不常见的领域实体,还对汉越跨境民族知识图谱进行知识嵌入得到对齐的汉越实体,将查询或文本中抽取出的实体与对齐的汉越实体进行实体链接扩展出另一语言相关的实体;
Step3、进行汉越跨境民族查询文档特征融合:利用多头注意力机制将融入汉越跨境民族知识图谱后查询和文档中的向量分别与知识图谱扩展出来的实体集合向量相拼接得到融合后的表征向量;
Step4、进行汉越跨境民族文本检索:引入对比学习将融合知识图谱特征后的查询文档表征对齐,将相同类型的查询和文档聚类在一起,然后在通过查询表示和文档表示之间的点积或余弦相似度作为相关性得分。
2.根据权利要求1所述的融合领域知识图谱的汉越跨境民族文本检索方法,其特征在于:所述Step1的具体步骤为:Step1.1、通过爬虫技术在汉越跨境民族相关网站获取汉越跨境民族文本数据,数据进行过滤、筛选、去停用词、特殊字符预处理操作,特殊字符包括空格、乱码、表情符号以及公式符号;
Step1.2、根据预处理后的数据分别构建中文和越南语正负样本对;
Step1.3、采用多语言预训练模型对汉越跨境民族查询文本进行向量表征,得到查询文本的向量表示;汉越跨境民族查询与文本分别视为序列q={q1,q2,…,qn}和序列d={d1,d2,…,dn}组成,其中qi和di分别是查询和文本的第i个词,q和d表示查询和文本;
Vq=XLM‑R(q)
Vd=XLM‑R(d)
其中Vq和Vd分别表示汉越跨境民族文化查询和文本的向量表示,经过多语言预训练模型能更好的捕捉汉越跨境民文化文本之间的信息。
3.根据权利要求1所述的融合领域知识图谱的汉越跨境民族文本检索方法,其特征在于:所述Step2的具体步骤为:Step2.1、利用跨境民族文化实体识别方法抽取查询或文本中的中文实体,与中文知识图谱实体链接扩展出相关实体;而在查询或文本中的越南语实体使用越南语实体抽取模型抽取,与越南语知识图谱实体链接扩展出相关实体;另外,为了扩充汉越跨境民族中不常见的领域实体,采用多语言知识表示模型MtransE对汉越跨境民族知识图谱中的三元组知识嵌入,得到汉越知识图谱对齐的汉越实体,将查询或文本中抽取出的实体与对齐的汉越实体进行实体链接扩展出另一语言相关的实体;
Step2.2、扩展出的实体由于是很多个词集合构成,将查询与知识图谱扩展出的实体视为一个词序列集合 文本与知识图谱扩展出的实体视为一个词序列q d
集合 其中VE是汉越知识图谱中的实体,e 和e分别表示查询和文本
与汉越知识图谱扩展出的词集合; 和 是查询和文本词序列集合中的第i个词; 和 分别通过多语言预训练模型得到词向量集合表示;
其中, 和 分别表示汉越跨境民族查询和文本扩展出的实体向量表示。
4.根据权利要求1所述的融合领域知识图谱的汉越跨境民族文本检索方法,其特征在于:所述Step3的具体步骤为:Step3.1、利用查询和文本中的向量分别与知识图谱扩展出来的实体集合向量相拼接得到融合后的表征向量;具体的方法是查询向量Vq和查询中的实体与知识图谱实体链接得到的实体向量 相拼接,文本向量Vd和文本中的实体与知识图谱实体链接得到的实体向量相拼接;
其中,表示向量相拼接,Vq'和Vd'分别是查询和文本与知识图谱中的实体融合后的查询向量和文本向量;
Step3.2、使用多头注意力机制将融入汉越跨境民族知识图谱后的查询和文档向量作为多头注意力机制的输入,通过多头注意力机制丰富查询和文档之间跨境民族相关的语义信息,为下一步输入对比学习层中更好对齐表征在同一空间下做铺垫;
其中,Q、K、V表示查询或文本的输入都是一样的, 是比例因子,能避免乘积过大。
5.根据权利要求1所述的融合领域知识图谱的汉越跨境民族文本检索方法,其特征在于:所述Step4的具体步骤为:Step4.1、参考了逆完形填空任务中的一种数据增强方法,生成文档的两个互斥视图,第一个视图是通过从一段文本中随机采样一个段落范围获得的,而该段落范围的补码形成第二个视图;具体来说给定一个序列文本(w1,w2...,wn),截取文本中跨度为(wa...,wb),其中,(1≤a≤b≤n),把截取文本跨度(wa…,wb)和(w1…,wa‑1...,wb+1,...,wn)都作为正样本;
另外,独立裁剪是一种常见的独立数据增强,该独立裁剪策略从文档中独立采样两个段落以形成正对,两个段落都对应于原始数据的连续子序列;
Step4.2、构建负样本和构建正样本逆完形填空任务相似,只不过是把截取文本段落替换为其他文本;另外将汉越跨境民族中的专有名词随即替换、删除或屏蔽;
Step4.3、利用对比学习的方法将查询文本训练到同一空间下对齐;对比学习是一种依赖于每个文档在某种程度上都是独一无二的事实的方法,对比损失通过区分文档来学习,这种损失比较正或负的文档表示对,计算公式如下:其中τ是温度参数,k+表示给定一个带有相关正文档的查询q,ki表示一个负文档池,这种对比损失促使相关文档的相关性得分较高,而无关文档的相关性得分较低;
Step4.4、利用双编码器架构分别为查询和文档独立编码;通过获取文档表示和查询表示之间的点积或余弦相似度来计算相关性分数,计算公式如下所示;
s(q,d)=
其中,q表示查询和d表示文档,使用相同θ参数模型fθ独立地对的每一个查询文本进行编码,s(q,d)是查询文本点积后得到的相关性分数结果表示。
6.融合领域知识图谱的汉越跨境民族文本检索装置,其特征在于:包括用于执行如权利要求1‑5任一项权利要求所述方法的模块。