1.一种使用两阶段检索的文本多跳推理问答方法,其特征在于,包括以下步骤:
S1、将问题q和每个答案选项a={a1,a2,...,aM}进行拼接,得到假设集合h={h1,h2,...,hM},其中,M是问题的选项数,将原形式下使用标志位将问题q和答案选项a进行简单拼接的多项选择问答问题转换为文本蕴含问题;
S2、将外部文本知识库中的领域理论知识划分为核心知识集合E和背景知识集合G,其中,核心知识e(e∈E)表示问题考察的核心思想,背景知识g(g∈G)表示用于解决问题的辅助知识;
S3、在第一阶段上下文感知知识检索器模块中,将正确答案对应的假设hi称为正确假设并将支撑正确假设成立的核心知识e称为正确核心知识分别将掩盖部分实体概念的所有正确假设和其对应的正确核心知识输入到上下文感知知识检索器模块中的双编码器模型中;结合对比学习的思想,将同批训练中的其他问题的正确假设所对应的正确核心知识作为负相关知识训练后得到正确假设与正确核心知识之间的映射关系;
所述步骤S3包含以下步骤:
S3.1、使用SpaCy文本处理工具,抽取出背景知识G中的所有名词及名词短语作为实体;对于工具抽取时的噪声,在分析实体出现频率和实体含义后进行半自动降噪,构成实体词表;
S3.2、根据实体词表选取出正确假设中的实体,并随机掩盖一定比例的实体,将正确假设输入到双编码模型中的问题假设编码器中,同时将其对应的正确核心知识输入到双编码器模型中的知识编码器中,通过余弦相似度计算两者的距离;
S3.3、将同批训练中的其他问题的正确假设对应的核心知识作为负相关知识将损失函数优化为正确核心知识的负对数似然值,损失函数如下:S4、将所有核心知识e输入到双编码模型中的知识编码器中,输出核心知识e的语义表征向量;再将假设hi输入到双编码器模型中的问题假设编码器中,得到假设hi的语义表征向量,通过与所有核心知识e的表征向量进行余弦相似度检索,得到支撑假设hi的候选核心知识池和问题q对应的候选核心知识池同时得到候选核心知识池中核心知识与假设hi之间的上下文语义匹配得分;
S5、在第二阶段实体感知知识验证模块中,构建背景知识集合G中实体之间的可达性矩阵,通过Kuhn-Munkres算法对假设hi中的实体和候选知识池中核心知识的实体之间进行可达性计算,得到核心知识ej和假设hi之间的实体匹配得分;
所述步骤S5包括:先抽取背景知识G中的实体,并通过BFS算法构建实体之间的可达性矩阵P,再抽取候选知识池中核心知识ej和假设hi中的实体,计算假设hi中的实体和候选知识池中核心知识ej的实体之间的可达分数,可达性分数计算如下:其中,I(ci,cj)表示实体i能否到达实体j的符号函数,|path(i,j)|表示两实体所经过的路径长度;Th是假设h的特殊实体集合,其中特殊实体是指在同一问题的所有假设中不同时出现的实体,S(cj,Th)是实体j是否属于特殊实体集合的符号函数;为防止除数为0,添加了超参数ε;是核心知识句中的第i个实体,是假设句中的第j个实体;在得到假设句中实体集和核心知识中的实体集之间的可达分数后,使用Kuhn-Munkres算法得到核心知识ej和假设hi之间实体验证的分数KM(hi,ej);
S6、将上下文感知知识检索器模块和实体感知知识验证模块得到的分数进行加权求和;对于含M个选项的问题q中的第i个假设hi,将得分最高的候选核心知识作为假设hi的预测核心知识,将得分最高的假设预测为问题的最终答案,并对双编码器模型进行微调,通过优化器最小化损失值。
2.根据权利要求1所述的一种使用两阶段检索的文本多跳推理问答方法,其特征在于,所述步骤S1中将多项选择问答问题转换为文本蕴含问题包括:将核心知识视为前提、问题和答案选项的拼接视为假设;对于疑问句式问题,采用词法、语法和依存句法分析方法,形成语义通顺、语法正确的问题假设;对于填空式问题,识别填空位并用答案选项进行填充。
3.根据权利要求1所述的一种使用两阶段检索的文本多跳推理问答方法,其特征在于:所述步骤S2中,所述核心知识为表述抽象的文本;所述背景知识包括实体属性、实体用途和实体同义词在内的简短描述文本。
4.根据权利要求1所述的一种使用两阶段检索的文本多跳推理问答方法,其特征在于:所述步骤S4中核心知识池的获取过程为:对问题q的所有假设hi都掩盖相同位置顺序的实体,使用余弦相似度得到每个掩码后的假设hi的前K个核心知识即其中L是知识库的大小,sim(·)表示计算余弦相似度的函数,topk{·}取集合中得分最高的K个元素;再通过对每个假设hi的候选核心知识再排序,得到与问题q相对应的前K个核心知识,作为问题q的候选知识池
5.根据权利要求1所述的一种使用两阶段检索的文本多跳推理问答方法,其特征在于:所述步骤S6中双编码器模型的损失函数包含两部分,分别为基于最终答案的交叉熵损失和基于知识池的交叉熵损失,如下:Loss=Llocal+Lglobal
其中N代表样本量,M代表选项个数;y={y1,y2…,yM}是答案标签的one-hot表示;pi表示第i个选择是正确答案的概率,表示核心知识池中第i个假设对应的所有核心知识的平均分数。