欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022113734351
申请人: 昆明理工大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.融合双语敏感词典和异构图的汉泰跨语言敏感信息识别方法,其特征在于:所述方法包括首先基于维基百科和社交媒体敏感数据构建汉泰双语敏感词典;然后,将文档以及所含关键词和敏感词作为节点,双语对齐、相似关系和不同词性作为边构建汉泰跨语言异构图,增强文档的敏感特征和双语敏感特征对齐,并利用多语言预训练模型对文档节点和词节点进行表征;最后通过多层图卷积神经网络对输入文档进行编码,利用敏感信息分类器对文档进行分类预测;

所述构建汉泰跨语言异构图包括:

Step3.1:使用汉泰跨语言敏感信息文本数据集的文档和文档共现词以及双语敏感词典的敏感词作为节点构建汉泰跨语言异构图结构,其中文档与文档、文档和词之间、敏感词之间均有不同的关系种类,包含文档与文档之间的翻译和相似关系,文档和词之间的词性关系,敏感词之间的词性关系;

Step3.2:文档和文档的边:为了得到文档中所含的语义信息,并使汉语文档和泰语文档更好的进行跨语言迁移学习,设置了两种类型的文档关系边;首先是基于机器翻译的伪平行语料之间的关系,将汉语文档和泰语文档之间构建了对应的翻译边;其次,将汉泰双语文档,通过多语言预训练模型获得文档的向量表示之后,利用文档向量,计算文档之间的相似度;

Step3.3:文档和单词的边:通过使用构建的双语敏感词典协助分词工具,对文档中的单词进行准确的切分,并使用POS-Tagger对单词进行词性标注,添加词性标签,将不同词性的单词通过词性关系与共现文档连接,构建不同类型的边;

Step3.4:单词和单词的边:基于构建的双语敏感词表,对文档中切分出来的敏感词,将该敏感词语义相似的双语敏感词作为词节点,并通过词节点之间的边建立图结构,增加文档中的敏感信息权重,以及汉泰跨语言词级对齐和聚合。

2.根据权利要求1所述的融合双语敏感词典和异构图的汉泰跨语言敏感信息识别方法,其特征在于:所述方法的具体步骤如下:Step1:采用Python语言编写网络爬虫程序收集整理公开网络上多语言文本数据,进行数据清洗,构建汉泰跨语言敏感信息数据集;

Step2:对处理好的数据,统计得到不同敏感类别中的双语敏感词,并将具有相似词义的双语敏感词构成词组,构建汉泰双语敏感词典;

Step3:基于汉泰双语敏感词典的敏感词和文档中的关键词作为词节点,文档本身作为文档节点,基于文档的对齐和相似关系、关键词和敏感词的不同词性关系,以及基于汉泰双语敏感词典的双语敏感词对齐关系作为边,构成汉泰跨语言异构图;

Step4:使用多语言预训练模型对所有的节点进行表征,获取文档的全局信息和上下文信息,将所有节点得到的表征传递给图卷积神经网络,最后对不同类型的边构建的不同子图进行图卷积,对不同节点进行特征聚合;将获得的文档节点特征送入敏感信息分类器,最终获得敏感信息预测结果。

3.根据权利要求2所述的融合双语敏感词典和异构图的汉泰跨语言敏感信息识别方法,其特征在于:所述Step1的具体步骤为:Step1.1:通过网络爬虫技术,收集整理公开网络上多语言文本数据;然后,通过语种识别方法清除非汉泰文本数据,利用emoji数据包和正则表达式去除文本数据中的表情、符号以及超链接,再通过人工数据筛查和整理,完成数据清洗;最后,对汉泰文本数据依据敏感特征标注敏感类别标签,构建具有类别标签的汉泰跨语言敏感信息识别数据集。

4.根据权利要求2所述的融合双语敏感词典和异构图的汉泰跨语言敏感信息识别方法,其特征在于:所述Step2的具体步骤为:Step2.1:基于维基百科和社交媒体敏感数据,借助机器翻译的方法,人工识别数据中所包含的敏感词,统计得到不同敏感类别中的双语敏感词,并将具有相似词义的双语敏感词构成词组,建立汉泰双语敏感词对齐关系,从而构建汉泰双语敏感词典。

5.根据权利要求2所述的融合双语敏感词典和异构图的汉泰跨语言敏感信息识别方法,其特征在于:所述Step4包括以下步骤:Step4.1:对汉泰跨语言敏感信息文本数据集F所含的关系构建异构图GF,由不同类型的子图组成,每个子图G=(V,E),V代表定义的节点,包括文档节点和单词节点;E表示节点之间不同类型的边;使用多语言预训练模型对所有的节点进行编码,定义初始化的X∈Rn×m是一个包含n个节点及其特征的矩阵,其中m是特征向量的维数,每一行Xv∈Rm是V的特征向量;对每一个图G使用其邻接矩阵A和度矩阵度矩阵中的元素Dii=∑j1Aij,i,j1分别是邻接矩阵A的行和列;使用了一个可训练的权重矩阵W(j),对每一个子图的第一层GCN,m维节点特征矩阵H(1)∈Rn×m计算方式如下所示:其中σ()是一个激活函数,是一个添加了自连接的无向图G的邻接矩阵,IN是单位矩阵,对于多层的GCN结构,能获取更加高阶的邻域信息,具体如下所示:其中,j表示图卷积的层数,H(0)=X,在图卷积操作完成之后,将所有不同类型的子图特征聚合到公共的隐式空间,具体如下所示:其中,τ表示不同的子图,将不同的子图聚合在一起从而获取整个异构图的表征,并将词节点的信息聚合到文档节点;

Step4.2:随后,将GCN层得到的文档特征h经过激活函数LeakyReLU,进入全连接层得到输出,最终使用归一化指数函数softmax函数对文档节点进行类别预测,得到不同类别对应的预测值,预测值最高的类别就是预测的分类结果,具体如下:q=Linear(p)

其中,α取值为0.01,Wq和b分别是q的权重和偏置,q是模型最后全连接层输出的文档特征,表示该文档在M个类别上对应的概率,表示模型对文档预测的类别结果。