欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022117068947
申请人: 安徽大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种主题约束表示的关键词抽取方法,其特征在于,包括以下步骤:获取目标文本并对所述目标文本进行预处理,获得字序列;

将所述字序列输入到预训练语言模型,获得所述目标文本中每个字向量和文本主题向量;

计算所述每个字向量与所述文本主题向量的相似度,得到相似性权重,根据所述相似性权重获得每个字的主题约束表示向量;

将所述主题约束表示向量输入到序列标注分类器,得到每个字对应各个标签的概率;

对所述目标文本进行滑动窗口采样,获取所有的候选词语,根据所述每个字对应各个标签的概率对所述候选词语进行排序,选择排序后的候选词语获得目标关键词;

其中,所述将所述字序列输入到预训练语言模型,获得所述目标文本中每个字向量和文本主题向量,包括:将z作为预训练语言模型的输入, ,其中,x代表单篇输入文本, 表示连续的前缀提示;

是预训练语言模型的隐藏层第i个向量, ,

其中,i表示输入z中第i个字的下标, 表示输入的第i个字, 表示第i个字之前所有的输入的隐藏层向量, 表示前缀提示的下标序列,矩阵 存储前缀提示;LM表示预训练语言模型,表示预训练语言模型的参数,表示前缀提示的参数,其中参数 是固定的,只训练参数 ;

所述目标文本中的每个字向量表示为: ,所述目标文本的主题向量 是全部字向量的平均池化。

2.根据权利要求1所述的方法,其特征在于,所述对所述目标文本进行预处理,包括:将所述目标文本过滤掉特殊的字符,并进行分词获得字序列;

构建序列标注的标签,其中,预先定义标签的种类,所述标签的种类包括非关键词,关键词中第一个字,关键词内部的字,关键词最后的一个字,长度为1的关键词中的一种或多种。

3.根据权利要求1所述的方法,其特征在于,所述序列标注分类器是3层的多层感知机,用于判断每个字对应各个预先定义标签的概率。

4.根据权利要求1所述的方法,其特征在于,所述根据所述每个字对应各个标签的概率对所述候选词语排序,包括:使用滑动窗口采样,在所述目标文本中提取长度为n的词语,其中, ;

对每个词语赋予一个分值;

按所述分值的大小从大到小进行排序。

5.一种主题约束表示的关键词抽取装置,其特征在于,包括以下模块:预处理模块,用于获取目标文本并对所述目标文本进行预处理,获得字序列;

上下文表示模块,用于将所述字序列输入到预训练语言模型,获得所述目标文本中每个字的向量和文本主题向量;

主题约束表示模块,用于计算所述每个字向量与所述文本主题向量的相似度,得到相似性权重,根据所述相似性权重获得每个字的主题约束表示向量;

序列标注模块,用于将所述主题约束表示向量输入到序列标注分类器,得到每个字对应各个标签的概率;

后处理模块,用于对所述目标文本进行滑动窗口采样,获取所有的候选词语,根据所述每个字对应各个标签的概率对所述候选词语进行排序,选择排序后的候选词语获得目标关键词;

其中,所述上下文表示模块,还用于:

将z作为预训练语言模型的输入, ,其中,x代表单篇输入文本, 表示连续的前缀提示;

是预训练语言模型的隐藏层第i个向量, ,

其中,i表示输入z中第i个字的下标, 表示输入的第i个字, 表示第i个字之前所有的输入的隐藏层向量, 表示前缀提示的下标序列,矩阵 存储前缀提示;LM表示预训练语言模型,表示预训练语言模型的参数,表示前缀提示的参数,其中参数 是固定的,只训练参数 ;

所述目标文本中的每个字向量表示为: ,所述目标文本的主题向量 是全部字向量的平均池化。

6.根据权利要求5所述的装置,其特征在于,所述后处理模块,还用于:使用滑动窗口采样,在所述目标文本中提取长度为n的词语,其中, ;

对每个词语赋予一个分值;

按所述分值的大小从大到小进行排序。

7.一种计算机设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1‑4中任一所述的主题约束表示的关键词抽取方法。

8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1‑4任意一项所述的主题约束表示的关键词抽取方法。