欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2020103250095
申请人: 南京邮电大学
专利类型:发明专利
专利状态:未下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种面向网络知识问答社区的自动答案摘要方法,其特征在于:包括如下步骤:步骤1,对原始答案文本进行数据预处理得到答案文本语料;

步骤2,对答案文本语料中句子里的单词进行编码,根据双向门控循环单元的输出,利用自注意力机制,得到句子的向量化表示;

步骤3,对句子的向量化表示进行编码,根据双向门控循环单元的输出,利用多头注意力机制,得到答案文本的向量化表示;

步骤4,使用门控循环单元,并利用内注意力机制的解码器对答案文本的向量化表示进行解码,得到解码后的单词。

2.根据权利要求1所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述数据预处理包括分词、词性还原、过滤停用词。

3.根据权利要求1所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述单词编码的过程如下:计算双向门控循环单元某个时刻t的隐藏状态ht,对某个时刻t的两个门控循环单元的隐藏状态进行拼接,如下式所示:其中,fGRU表示门控循环单元的运算,ht-1是双向门控循环单元在t-1时刻的隐藏状态,代表前向传播,代表后向传播,vt是答案文本语料中句子里的单词序列数据; 是前向传播的输出隐藏状态, 是后向传播的输出隐藏状态;

对隐藏层中t时刻的n个隐藏状态ht进行合并,得到单词隐藏层Hws,如下式所示:其中, r是单向门控循环单元中隐藏单元的个数,n是隐藏状态的个数。

4.根据权利要求3所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述利用自注意力机制,得到句子的向量化表示的步骤如下:将注意力向量aws和t时刻的n个隐藏状态ht进行加权求和,得到t时刻句子的向量化表示si,如下式所示:其中,si是t时刻句子的向量化表示,aws是单词的重要程度, 表示t时刻第i个隐藏状态;

其中,W2和W1是权重参数,使用softmax函数进行归一化处理,tanh(*)是非线性激活函数, 是单词隐藏层的转置。

5.根据权利要求1所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述句子的向量化表示编码的过程如下:计算双向门控循环单元某个时刻k的隐藏状态hk,对某个时刻k的两个门控循环单元的隐藏状态进行拼接,如下式所示:其中,fGRU表示门控循环单元的运算,hk-1是双向门控循环单元在k-1时刻的隐藏状态,代表前向传播,代表后向传播,si是时刻句子的向量化表示; 是前向传播的输出隐藏状态, 是后向传播的输出隐藏状态;

对隐藏层中k时刻的隐藏状态hk进行合并,得到句子隐藏层Hsd,如下式所示:其中, r是单向门控循环单元中隐藏单元的个数,m是隐藏状态的个数。

6.根据权利要求5所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述利用多头注意力机制,得到答案文本的向量化表示的步骤如下:计算单次k时刻的句子隐藏层Hsd输出的特征值gk,公式如下:asd=[softmax(WTtanh(Hsd))]T.Hsdgk=tanh(asd)

其中,asd表示句子的重要程度,WT是参数的转置,使用softmax函数进行归一化处理,tanh(*)是非线性激活函数,Hsd是句子隐藏层;

对gk进行l次计算,并进行拼接,得到答案文本的向量化表示Dans,如下式所示:其中,Ws是参数,Concat表示拼接, 表示第l次k时刻的句子隐藏层Hsd输出的特征值。

7.根据权利要求6所述的一种面向网络知识问答社区的自动答案摘要方法,其特征在于:所述解码器t时刻的隐藏状态公式如下:st=f(st-1,yt-1,ct)

其中,st表示解码器在t时刻的隐藏状态,f是非线性变换函数,yt-1是t-1时刻解码器输出的单词,ct表示t时刻上下文的向量;

其中,sj表示Dans中第j个句子的语义编码,J表示句子的数量,atj表示分配的注意力权重;

其中,etj表示在时刻t解码器的输出与整个解码过程的关联程度,计算公式如下所示:etj=Vtanh(Wast-1,Wbst)

其中,V,Wa,Wb是权重参数,tanh是激活函数,st-1表示门控循环单元在t-1时刻的输出,st是时刻t隐藏层的状态。