1.一种融合CPT和最优化模型的考试阅读理解答案句概括方法,其特征在于:包括以下步骤:步骤S1,构建概括总结语料库;
步骤S2,使用概括总结语料库对CPT模型进行训练和微调;
步骤S3,将背景材料答案句输入步骤2训练和微调后的CPT模型进行概括总结;
步骤S4,综合语义权威度、问题匹配度和句法结构重要度计算背景材料答案句中词语的可信度;
步骤S5,利用最优化模型优化CPT模型输出的文本,重新生成新的答案句,完成考试阅读理解答案句的概括;
所述步骤S4中综合语义权威度、问题匹配度和句法结构重要度计算背景材料答案句中词语的可信度具体包括以下步骤:步骤S4.1,根据步骤3CPT模型生成的文本计算词语的语义权威度,CPT模型生成的概括答案句文本表达了原句,即背景材料答案句的主要含义,如果原句中的词语在CPT模型生成的文本中,将词语的语义权威度设为1,否则设置为0;
步骤S4.2,结合Word2Vec和HowNet计算词语与问句的匹配度,词语与问句的匹配度有利于召回原句中与问句更相关的词语,计算公式如下所示:(2)
(3)
其中表示问句去停用词后的词语列表,表示列表中的词语,表示利用Word2Vec计算和的词向量余弦相似度,和分别表示和的词向量,表示通过HowNet计算和的相似度,和为需要设置的正参数,;
步骤S4.3,根据词语在依存句法分析树中的深度计算词语的句法结构重要度;越接近树根节点的词语成为句子主要成分的概率越大,远离根节点、深度越大的词语越有可能对原句的意义没有影响,计算公式如下所示:(4)
其中,表示词语在依存句法分析树中的深度,规定树根节点的深度为0,根节点的直接子节点深度为1,依此类推;
步骤S4.4,结合语义权威度、问句匹配度和句法结构重要度三种因素计算词语的可信度:(5)
其中、和为需要设置的正参数;
所述步骤S5中利用最优化模型优化CPT模型输出的文本,重新生成新的答案句包括以下步骤:步骤S5.1,通过词语可信度构造最优化模型目标函数,用于权威信息和冗余词语的选择,保证生成答案句信息的正确性:(6)
其中,表示背景材料答案句中词语的个数,表示句中第个词语是否应被删除或保留的标签,如果,词语被保留,如果,词语被删除,表示词语的可信度;
步骤S5.2,引入句法结构完整性、语义正确性以及连贯性约束保证生成答案句的通畅性,同时引入句子长度约束控制生成答案句的长度;
(1)句法结构完整性约束
在优化的答案句中,如果子节点词被保留,那么它的父节点词也应被保留:(7)
其中,是的父节点词,和分别是其对应的标签;
对于某些依存关系,如主谓关系,如果父节点词,即谓语被保留,那么它的子节点词,即主语也应被保留:(8)
其中,表示在优化的答案句中,如果父节点词被保留,则子节点词常被保留的一组依存关系:{SBV, VOB, IOB, FOB, POB, ATT, DBL, CMP, WP},根据考试阅读理解答案句概括任务的特性构建;表示子节点词语与其父节点词语的依存关系;
(2)语义正确性约束
当子节点词和父节点词为并列关系,且父节点词不是句子的核心词,如果父节点词被保留,则子节点词也应被保留,否则答案句表达的语义不完整:(9)
其中,表示与其父节点词的依存关系,COO表示子节点词和父节点词为并列关系;HED表示父节点词不是句子的核心词;
否定词影响答案句的语义,当子节点词和父节点词为状中关系,且子节点词包含否定词,如果父节点词被保留,则子节点词也应被保留:(10)
其中,ADV 表示子节点词和父节点词为状中关系,表示否定词列表no_advlist{不, 没, 未, 别, 勿, 否, 莫, 无}中的元素;
(3)连贯性约束
并列关系连词“和、与、跟、及、以及”可以保证优化答案句的连通性,当子节点词和父节点词为左附加关系,且子节点词是并列关系连词,如果父节点词被保留,则子节点词也应被保留:(11)
其中,LAD 表示子节点词和父节点词为左附加关系,表示一组并列关系连词:coolist{和, 与, 跟, 及, 以及};
当子节点词和父节点词为右附加关系,且子节点词是“的”或“了”,如果父节点词被保留,则子节点词也应被保留:(12)
其中,RAD表示子节点词和父节点词为右附加关系;
(4)句子长度约束
因为要尽力压缩句子以保证优化后的答案句比原句更简短,但如果优化答案句的压缩率过大,会丢失原句的主要信息,所以需引入句子长度约束控制优化答案句的最大和最小长度:(13)
其中,表示原句中词语的个数,和需要设置的正参数,, ;
步骤S5.3,在句法结构完整性、语义正确性、连贯性和句子长度的约束下,最大化目标函数,将背景材料答案句的词语序列转化为标签序列;如果,表示词语被保留;如果,表示词语被删除,最后生成与问题匹配度高、句法结构完整且对答案要点进行归纳概括的答案句。
2.根据权利要求1所述的一种融合CPT和最优化模型的考试阅读理解答案句概括方法,其特征在于:所述步骤1中构建概括总结语料库具体为:采用语料(1)各省历年的考试问答真题和模拟题;(2)组卷网爬取的考试阅读理解问答题;(3)NLPCC2017会议的中文单文档摘要测评任务数据集;首先,将原文中的句子按照标点符号分成单句,然后根据如下公式计算概括句与原文中每一个句子的相似度,选择原文中相似度最高的句子作为概括句的对应句,构建概括总结语料库;
(1)
其中,表示摘要中第个概括句的词集合,表示原文中第个句子的词集合,表示句子中的词语。
3.根据权利要求2所述的一种融合CPT和最优化模型的考试阅读理解答案句概括方法,其特征在于:所述步骤S2中使用概括总结语料库对CPT模型进行训练和微调具体为:在概括总结语料库源句子和目标句的首部和尾部分别添加特殊标记“CLS”和“SEP”,源句子序列输入CPT模型的共享编码器,目标句序列输入生成解码器,对CPT模型进行训练和微调,使得CPT模型具备去除冗余信息和归纳总结的能力。
4.根据权利要求3所述的一种融合CPT和最优化模型的考试阅读理解答案句概括方法,其特征在于:所述步骤S3中将背景材料答案句输入步骤S2训练和微调后的CPT模型进行概括总结具体为:将背景材料答案句输入到训练好的CPT模型中,表示背景材料答案句中词语的个数,表示句中第个词语,生成较为精炼且具有权威信息的答案句,即概括的答案句。