欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2023109386660
申请人: 深圳市超越智能电子有限公司
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于语义递进融合的长文本相似度计算方法,其特征在于,包括如下步骤:将两个长文本分别切分为若干个语句,得到句级序列并分别存储至相应列表中;

循环调用孪生Bert模型,分别对所述列表中的若干个语句进行训练,获取所述列表中每个语句的语义表示;

基于Transformer模型对所述长文本的语句序列进行训练,得到两个所述长文本的语义表示;

基于向量空间夹角余弦公式,依据所述两个所述长文本的语义表示计算两个所述长文本的相似度;

所述循环调用孪生Bert模型,分别对所述列表中的若干个语句进行训练,获取所述列表中每个语句的语义表示,包括:采用改进的所述孪生Bert结构捕捉所述语句间的语义依赖,得到包含更多特征的所述语句的语义信息,同时基于多头注意力机制通过多个映射器学习所述语句中不同维度和不同子空间的表征特征,进行多特征融合并提取隐含信息表示,最终获得多特征融合的所述语句的语义表示。

2.根据权利要求1所述的基于语义递进融合的长文本相似度计算方法,其特征在于,所述循环调用孪生Bert模型,分别对所述列表中的若干个语句进行训练,获取所述列表中每个语句的语义表示,包括:基于所述Bert模型,通过全词mask基于词粒度对语句进行训练,得到融合上下文语义信息的动态词向量。

3.根据权利要求1或2所述的基于语义递进融合的长文本相似度计算方法,其特征在于,所述基于Transformer模型对所述长文本的语句序列进行训练,得到两个所述长文本的语义表示,包括:类比长文本和句子的结构关系,将所述列表中的每个所述语句作为词级token,并将长文本转换成句子层面,利用所述Transformer模型对所述长文本的语句序列进行训练,最终获得语义递进融合的文本表示。

4.一种基于语义递进融合的长文本相似度计算装置,其特征在于,包括:

文本切分模块,其用于将两个长文本分别切分为若干个语句,得到句级序列并分别存储至相应列表中;

语句训练模块,其用于循环调用孪生Bert模型,分别对所述列表中的若干个语句进行训练,获取所述列表中每个语句的语义表示;

长文本训练模块,其用于基于Transformer模型对所述长文本的语句序列进行训练,得到两个所述长文本的语义表示;

相似度计算模块,其用于基于向量空间夹角余弦公式,依据所述两个所述长文本的语义表示计算两个所述长文本的相似度;

所述语句训练模块采用改进的所述孪生Bert结构捕捉所述语句间的语义依赖,得到包含更多特征的所述语句的语义信息,同时基于多头注意力机制通过多个映射器学习所述语句中不同维度和不同子空间的表征特征,进行多特征融合并提取隐含信息表示,最终获得多特征融合的所述语句的语义表示。

5.根据权利要求4所述的基于语义递进融合的长文本相似度计算装置,其特征在于,所述语句训练模块基于所述孪生Bert模型,通过全词mask基于词粒度对语句进行训练,得到融合上下文语义信息的动态词向量。

6.根据权利要求4或5所述的基于语义递进融合的长文本相似度计算装置,其特征在于,所述长文本训练模块基于类比长文本和句子的结构关系,将所述列表中的每个所述语句作为词级token,并将长文本转换成句子层面,利用所述Transformer模型对所述长文本的语句序列进行训练,最终获得语义递进融合的文本表示。

7.一种电子设备,其特征在于,包括:至少一个处理器;以及与所述至少一个处理器连接的存储器;其中,所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述一个处理器执行,以使所述至少一个处理器执行如权利要求1-3任一基于语义递进融合的长文本相似度计算方法。

8.一种计算机可读存储介质,其特征在于,其上存储有计算机指令,该指令被处理器执行时实现如权利要求1-3任一基于语义递进融合的长文本相似度计算方法。