欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2024105661752
申请人: 深圳恒远志达技术转移中心有限公司
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种段落大意引导的汉语篇章结构分析方法,其特征在于,应用于段落大意引导的汉语篇章结构分析模型,所述汉语篇章结构分析模型包括融合词信息的字级编码模块,文本块级稀疏Transformer编码模块、基于指针网络的解码模块、基本文本摘要语料的预训练模块和基于篇章语料的训练模块;

所述方法包括:

融合词信息的字级编码模块按照标点符号集合中的标点符号将输入段落分割为多个文本块,每个文本块的结尾为标点符号,然后融合各文本块中字和词的信息,得到词信息增强的向量表示,最后,基于词信息增强的向量表示,使用多个堆叠的Transformer层对输入段落中各文本块分别进行编码,计算文本块的语义向量表示和文本块对应切分点的语义向量表示;

文本块级稀疏Transformer编码模块基于各个文本块的语义向量表示和文本块对应切分点的语义向量表示,采用稀疏Transformer层计算融合段落大意的文本块语义向量表示和融合段落大意的切分点语义向量表示,然后计算文本片段的语义向量表示;

基于指针网络的解码模块以文本片段的语义向量表示和融合段落大意的切分点语义向量表示为输入,依次计算各切分操作的位置,对于待切分的文本片段和需要进行的第基本文本摘要语料的预训练模块先对融合词信息的字级编码模块和文本块级稀疏Transformer编码模块进行预训练,然后,利用基于篇章语料的训练模块完成最终的训练,得到训练好的段落大意引导的汉语篇章结构分析模型。

2.根据权利要求1所述的段落大意引导的汉语篇章结构分析方法,其特征在于,融合词信息的字级编码模块中,采用下式融合各文本块中字和词的信息,得到词信息增强的向量表示:其中,

融合词信息的字级编码模块中,采用下式计算文本块的语义向量表示和文本块对应切分点的语义向量表示:其中,

3.根据权利要求2所述的段落大意引导的汉语篇章结构分析方法,其特征在于,文本块级稀疏Transformer编码模块基于各个文本块的语义向量表示和文本块对应切分点的语义向量表示,采用稀疏Transformer层计算融合段落大意的文本块语义向量表示的过程中,满足以下条件式:其中,

文本块级稀疏Transformer编码模块中,采用下式计算文本片段的语义向量表示:其中,

4.根据权利要求3所述的段落大意引导的汉语篇章结构分析方法,其特征在于,基于指针网络的解码模块满足以下条件式:其中,

5.根据权利要求4所述的段落大意引导的汉语篇章结构分析方法,其特征在于,基本文本摘要语料的预训练模块先对融合词信息的字级编码模块和文本块级稀疏Transformer编码模块进行预训练,具体包括:将融合词信息的字级编码模块和文本块级稀疏Transformer编码模块作为文本摘要模型的编码器,并叠加一个基于LSTM的解码器,用于文本摘要任务,给定文本摘要语料其中,

然后,利用解码器生成输入段落的摘要文本,表达式如下:其中,

最后,定义基于文本摘要的预训练代价

其中,

通过最小化预训练代价

6.根据权利要求5所述的段落大意引导的汉语篇章结构分析方法,其特征在于,利用基于篇章语料的训练模块完成最终的训练,得到训练好的段落大意引导的汉语篇章结构分析模型,具体包括:对于给定人工标注的汉语篇章语料

其中,

通过最小化训练代价