欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020102578257
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种面向智能问答系统的自然语言推理方法,其特征在于:包括如下步骤:

S1:将用户前后输入的两个句子中的每一个词转换成预训练的词向量,根据词向量将每个句子都表示为矩阵Xinf;

S2:将矩阵Xinf分别通过正向时序运算和反向时序运算,并将两次运算的结果进行拼接,得到矩阵Henc;

S3:对矩阵Henc中的所有列向量只保留最大值,得到向量vmp,同时将矩阵Henc进行多维加权平均得到向量vmda,将向量vmp和向量vmda进行拼接得到向量v;

S4:根据向量v,获得需要判断关系的两个句子所对应的向量v1和向量v2,将向量v1和向量v2进行句意融合,得到向量m;

S5:将向量m通过多次矩阵运算转化为一个多维向量,此多维向量中每个元素分别代表句子间对应关系的概率,选择最大的元素所对应的关系作为最后的结果。

2.根据权利要求1所述的一种面向智能问答系统的自然语言推理方法,其特征在于:所述步骤S2中的正向时序运算是对矩阵 的每一列向量按照从左到右的顺序依次进行如下计算:

ct=it⊙st+ft⊙ct-1

其中, 为矩阵Xinf第t列的列向量,在每次计算完成后将会得到记录信息的两个向量ct、 这两个向量将参与下一次的运算,在每次计算中,都会得到四个中间向量ft、it、ot、st,在计算中间向量时,Wf、Win、Wo、Ws分别为生成中间向量时对输入向量 的权重转移矩阵,Uf、Uin、Uo、Us分别为生成中间向量时对前一次运算得到的向量ct-1的权重转移矩阵,bf、bin、bo、bs分别为计算中间向量时添加的偏置向量,σ、ta为激活函数,exp表示指数函数,⊙表示将参与运算向量中同一位置的元素进行相乘并得到一个同样维度的向量的运算,将每次计算所得到的 依次排序,将得到正向时序运算的矩阵。

3.根据权利要求2所述的一种面向智能问答系统的自然语言推理方法,其特征在于:所述步骤S2中的反向时序运算,需要将Xinf中的列向量按照 的顺序反向排列,然后将反向排列过的矩阵中的列向量按从左到右的顺序依次进行运算获取到输出向量。

4.根据权利要求1所述的一种面向智能问答系统的自然语言推理方法,其特征在于:所述步骤S3中将矩阵Henc进行多维加权平均得到向量vmda的具体运算过程为:A=Wbσ(WaHenc+ba)+bb

首先将Henc通过两次矩阵运算得到维度与Henc相同的权重矩阵A,Wa、Wb分别为两次运算的权重转移矩阵,ba、bb为偏置向量,σ为激活函数,在得到权重矩阵A后,将其每一行向量进行指数归一化运算,得到Henc中每一个元素所对应的权重p(aij),而p·j表示第j列元素所对应的权重所组成的权重向量,aij为矩阵A中第i行第j列的元素,n为矩阵A的列数, 为Henc第j列的列向量,exp表示指数运算,vmda为多维加权平均后所得到的向量。

5.根据权利要求1所述的一种面向智能问答系统的自然语言推理方法,其特征在于:所述步骤S4中向量v1和向量v2进行句意融合的过程为:首先将向量v1和向量v2做逐一元素的绝对值减法得到|v1-v2|,再将二者做逐一元素的乘法得到v1⊙v2,然后把v1,v2,|v1-v2|,v1⊙v2进行拼接,得到向量m。

6.根据权利要求1所述的一种面向智能问答系统的自然语言推理方法,其特征在于:所述步骤S5中向量m通过两次矩阵运算转化为一个三维向量,此三维向量中每个元素分别代表句子间关系为蕴含、矛盾、无关的概率。