欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2017109132160
申请人: 昆明理工大学
专利类型:发明专利
专利状态:未下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种融合词向量和主题模型的领域实体消歧方法,其特征在于:

所述方法的具体步骤为:

Step1、首先利用旅游领域的百科语料进行词向量模型训练;

Step2、从维基百科知识库中获取待消歧实体的候选实体集合;

Step3、结合词向量模型和LDA主题模型,充分利用上下文特征相似度、上下位关系类别指称特征相似度和领域主题关键词特征相似度进行领域实体消歧;

所述步骤Step3的具体步骤如下:

Step3.1、获取待消歧实体所在文本和候选实体所在文本的上下文环境,利用词向量模型训练上下文环境得到上下文特征,然后进行上下文特征相似度的计算;

Step3.2、利用K-means聚类算法获取待消歧实体所在文本的高频词,利用上下位关系领域知识库获取高频词在知识库中所属的类别指称特征,即上位词,与候选实体所属的类别名称进行上下位关系类别指称特征相似度的计算。

Step3.3、利用LDA主题模型对训练语料进行上下文主题建模,再进行分类,在不同主题下对多义词进行语义标注,利用词向量模型进行训练获取多义词的不同词向量,利用K-means聚类算法获取不同主题下的关键词特征,然后与候选实体进行主题关键词特征相似度的计算;

Step3.4、充分利用上下文特征相似度、上下位关系类别指称特征相似度和领域主题关键词特征相似度进行特征相似度的融合,然后进行领域实体消歧。

2.根据权利要求1所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step1的具体步骤为:Step1.1、从维基百科的中文离线数据库,提取旅游分类下的页面信息,并提取页面的摘要信息,保存在文本中;

Step1.2、人工编写爬虫程序,从旅游网站和百科词条上爬取旅游领域文本信息,与维基的文本进行结合;

Step1.3、对Step1.2步骤获得的语料进行预处理,采用开源的工具包中科院汉语词法分析系统ICTCLAS完成,包括分词、词性标注、去停用词和命名实体识别过程;

Step1.4、选择Google的开源工具包word2vec,采用Skip-gram模型对预处理后的语料进行词向量模型训练。

3.根据权利要求1所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step2的具体步骤为:Step2.1、下载维基百科的中文离线数据库,并提取其中旅游分类下的页面信息;

Step2.2、从实体页面、重定向页面、消歧页面、超链接中获取待消歧实体的候选实体。

4.根据权利要求2所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step1.3的具体步骤为:Step1.3.1、对爬取的网页文本信息进行有效的过滤,去无效字符和网页;

Step1.3.2、对得到的有效网页进行去重、去垃圾信息预处理操作;

Step1.3.3、使用中科院汉语词法分析系统ICTCLAS对旅游文本进行分词、词性标注、去停用词和命名实体识别的过程。

5.根据权利要求1所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step3.1的具体步骤为:Step3.1.1、对于某待消歧的实体G,其背景文本经过预处理后,用训练好的词向量模型进行向量的表示,其向量表示为Step3.1.2、对于候选实体,通过在知识库中获取实体的摘要,经过向量表示后为Step3.1.3、待消歧实体G和候选实体G候选之间的相似度通过计算 和 之间的相似度来计算,相似度计算公式:

6.根据权利要求5所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step3.2的具体步骤为:Step3.2.1、对于待消歧实体所在的背景文档,对其预处理后,包括分词、去停用词,获取所有预处理后的名词类的词语将其转化为单独的词向量;

Step3.2.2、使用K-Means算法对名词类词语的词向量进行聚类操作,使用余弦相似度计算公式计算两个词之间的距离,分别计算每个词到距离中心之间的距离,选择离聚类中心最近的4个词作为该类的高频词;

Step3.2.3、从上下位关系领域知识库中分别查找这些高频词所属的上位词,将上位词作为该类的类别指称;

Step3.2.4、从百科的词条标签中获取每个候选实体的类别指称,然后计算x个候选实体与背景文档的y个类的相似度Ri(x),并且每个候选实体只保留一个最大相似度-与各类相似度值比较后最大的相似度值,相似度计算公式sim2(G,G候选)=max{Ri(x)}。

7.根据权利要求6所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step3.3的具体步骤为:Step3.3.1、预处理:通过中科院汉语词法分析系统ICTCLAS对旅游领域背景文档内容进行分词,去除停用词、对上下文按句分割;

Step3.3.2、主题建模:使用LDA主题模型对每个文档的上下文集合进行主题建模;参数推理采用MCMC方法中的Gibbs抽样算法,看成是文本生成的逆过程,即在已知文本集的情况下,通过参数估计得到参数值,根据概率图模型,得到一段上下文的概率;

Step3.3.3、上下文分类与主题分析:获取待消歧实体所在主题下前4个文本主题词,利用TextRank抽取待消歧实体所在文本的关键词,然后利用词向量模型将关键词表示为向量的形式,计算主题词与关键词的相似度大小,从而对待测上下文进行分类,确定上下文对应的主题词;

Step3.3.4、词义标注:根据多义词所处的上下文主题及其分类,对多义词进行语义标注,将该词语与主题词对看做为一个新词放回词袋,用w′=<w,t>表示多义词与主题对,将w′最为新词取代w放入原词袋模型;

Step3.3.5、多义词词向量训练:把<wi,ti>看做新词进行训练就得到多义词的多个含义的词向量;

Step3.3.6、然后对词向量进行K-Means聚类操作,在聚类过程中使用余弦相似度计算公式计算两个词之间的距离,分别计算每个词到距离中心之间的距离,选择离聚类中心最近的m个词作为关键词;

Step3.3.7、获取了不同主题下的关键词集合,每个不同聚类簇下的关键词都是以词向量的形式表示的,聚类簇的个数为主题的个数,设同一主题下的抽取的关键词集合为S,m表示抽取的关键词的数量,对于关键词集合S中的关键词k,其向量的形式为wk(k=1,2,...,m),候选实体G候选的摘要文本向量形式为ni,则下述公式表示候选实体含义向量与主题关键词之间的相似性,相似度计算公式为:

8.根据权利要求7所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step3.4的具体步骤为:Step3.4.1、对步骤Step3.1、Step3.2、Step3.1获得的特征进行相似度融合,融合公式为sim(G,G候选)=αsim1(G,G候选)+βsim2(G,G候选)+χsim3(G,G候选)Step3.4.2、对于三种相似度权重的选择,采用基于经验和权值归一的方法,获得权重比值,且满足α+β+χ=1,α,β,χ表示三项相似度权重值。

9.根据权利要求8所述的融合词向量和主题模型的领域实体消歧方法,其特征在于:所述步骤Step3.4.2中,最终使用的三项相似度权重值α,β,χ分别为0.23,0.25,0.52。