1.一种基于生成模型的医学中文命名实体识别方法,其特征在于:所述生成模型包括对抗训练模块和私有任务模块,其中所述对抗训练模块由一个Shared BiLSTM生成器、一个Self‑Attention机制和一个CNN判别器组成,具体的,所述医学中文命名实体识别方法包括如下步骤:步骤1:处理医疗中文命名实体语料库中的句子,将每个句子进行分类,形成两种数据集,用于对抗训练模块的数据集和用于私有任务模块的数据集;
步骤2:将用于对抗训练模块的数据集中的句子与用于私有任务模块的数据集中的句子对齐,用于对抗训练模块和私有任务模块的数据集中相同且对齐的句子构成句子对,每个所述句子对被输入到所述生成模型中;
步骤3:输入对抗训练模块的字符序列,经过word2vec字嵌入转换为字向量,在word2vec字嵌入训练过程中,将中文医学文本作为神经网络的训练数据,经过神经网络训练后输出包含字的语义信息向量,word2vec字嵌入训练过程将每个字从高维空间嵌入至低维的连续向量空间,形成一个稠密向量,用于大数量级的中文医学文本表示;
步骤4:将步骤3得到的字向量作为所述对抗训练模块中的Shared BiLSTM生成器的输入,所述Shared BiLSTM生成器采用从左到右的策略进行文本生成并合并字符序列两边的信息,输出BiLSTM隐藏层的状态;
步骤5:利用对抗训练模块中的Self‑Attention机制从Shared BiLSTM生成器的隐藏向量状态信息中获取句子不同的关键信息,并对这些信息赋予不同的实体特征权重,通过提取与整合得到固定大小的有用词向量,对抗训练模块进行批量计算;
步骤6:使用对抗训练模块中的CNN判别器区分句子来自哪个私有任务模块数据集,其中,所述私有任务模块的数据集为中文CNER任务模块数据集或CWS任务模块数据集;
步骤7:根据步骤6中CNN判别器的判别结果跳转至相应的中文CNER任务模块数据集或CWS任务模块数据集执行相应的任务,如果所述CNN判别器判断输出来自中文CNER任务模块数据集,则将Self‑Attention机制的输出发送给独立CNER任务进行后续处理并输出医学文本句子序列标注结果,如果CNN判别器判断输出来自CWS任务模块数据集,则将Self‑Attention机制的输出发送给独立CWS任务;其中:所述用于对抗训练模块的数据集和用于私有任务模块的数据集是相同的,均包含一个CNER数据集以及一个CWS数据集,设CNER数据集中的一个字符为ci,则包含在CNER数据集中的一个句子表示为t=(c1,c2,c3,c4,…,cn),所述CNER数据集表示为CCNER=(t1,t2,t3,t4,…,tq),设CWS数据集中的一个字符为c′i,则包含在CWS数据集中的一个句子表示为t′=(c′1,c′2,c′3,c′4,…,c′n),所述CWS数据集表示为CCWS=(t′1,t′2,t′3,t′4,…,t′q),其中n表示一个句子中所含字符数,q表示一个数据集中所含句子数;
所述句子对被输入到所述生成模型中包括以下步骤:
步骤2‑1:将所述句子对中的来自对抗训练模块的数据集的句子输入到对抗训练模块中,实现中文CNER任务的字符{c1,c2,c3,…,cn}和CWS任务的字符{c′1,c′2,c′3,c′4,…,c′n}交替作为输入字符序列{s1,s2,s3,…,sn}输入对抗训练模块中;
步骤2‑2:将所述句子对中的来自私有任务模块数据集的句子输入到相应的私有任务模块,实现来自中文CNER数据集中的句子字符{c1,c2,c3,…,cn}输入至中文CNER任务模块以及来自CWS任务模块数据集中的句子字符{c′1,c′2,c′3,c′4,…,c′n}输入至CWS任务模块;
所述步骤7中CNN判别器的判别结果跳转至相应的中文CNER任务模块数据集执行中文CNER任务的具体过程包括如下步骤:步骤7‑1‑1:将步骤2‑2的中文CNER数据集中的句子字符{c1,c2,c3,…,cn}送入Lattice LSTM模型中进行处理;
步骤7‑1‑2:所述Lattice LSTM模型对输入字符序列以及所有匹配字典的潜在单词进行编码,生成隐藏状态hi;
步骤7‑1‑3:采用中文CNER任务模块中的Self‑Attention机制提取中文CNER任务模块数据集中Lattice LSTM模型生成的关键特征并整合CWS任务模块以及对抗训练模块中的Shared BiLSTM生成器生成的特征信息,生成隐藏状态h′i;
步骤7‑1‑4:结合步骤7‑1‑3所得隐藏状态之间的相关性,利用条件随机场模型CRF学习相邻关系来模拟标签之间的顺序关系,解码最终的序列标签以确保预测标签的正确性;
步骤7‑1‑5:将步骤7‑1‑4的中文医学文本预测标签结果输出至中文CNER结果集。
2.根据权利要求1所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:在所述7‑1‑2中,所述Lattice LSTM模型进行编码,生成隐藏状态hi的具体过程为:步骤7‑1‑2‑1:将中文CNER数据集中的句子字符{c1,c2,c3,…,cn}的所有字符子序列储存在单元储存器 中;
w
步骤7‑1‑2‑2:将字符子序列和与词典D进行词序列匹配,对每个单元字符匹配信息流循环路径;
步骤7‑1‑2‑3:对每个单元字符匹配到的潜在词按照词长度进行排序;
步骤7‑1‑2‑4:将当前字符向量和当前字与词典匹配到的潜在词均输入至Lattice LSTM模型中分别计算字级和词级的LSTM单元中的相关状态;
步骤7‑1‑2‑5:采用归一化的方法为每个单元字符、潜在词分配权重,衡量对应输入信息的重要程度;
步骤7‑1‑2‑6:将步骤7‑1‑2‑4计算出的当前各个输入源的相关状态与步骤7‑1‑2‑5计算出的对应权重进行加权求和,得到最终的字符结果;
步骤7‑1‑2‑7:采用Lattice LSTM模型中的字级输出门来控制字符结果的输出程度,输出最后的隐藏层隐藏状态。
3.根据权利要求2所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:根据步骤7中CNN判别器的判别结果跳转至相应的CWS任务模块数据集执行CWS任务的具体过程包括如下步骤:步骤7‑2‑1:将步骤2‑2的CWS数据集中的句子字符{c′1,c′2,c′3,c′4,…,c′n}送入Bi‑LSTM模型中进行处理;
步骤7‑2‑2:所述Bi‑LSTM模型对输入字符序列进行编码,生成隐藏状态hj;
步骤7‑2‑3:采用CWS任务模块中的Self‑Attention机制提取Bi‑LSTM模型生成的关键特征并整合对抗训练模块中Shared BiLSTM生成器生成的特征信息,生成隐藏状态hj″;
步骤7‑2‑4:结合所述步骤7‑2‑3所得的隐藏状态hj″之间的相关性,利用条件随机场模型CRF学习相邻关系来模拟标签之间的顺序关系,解码最终的序列标签以确保预测标签的正确性;
步骤7‑2‑5:在CWS任务模块数据集上训练并选取在CWS任务模块数据集的开发集上进行CWS任务时将F1值最大的模型进行保存。
4.根据权利要求3所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:在所述步骤7‑2‑3中,采用Self‑Attention机制,生成隐藏状态hj″具体包括如下步骤:步骤7‑2‑3‑1:将步骤7‑2‑2的隐藏状态hj引入Self‑Attention机制,将CWS私有任务中Bi‑LSTM模型生成的隐藏向量状态以及对抗训练模块Shared BiLSTM生成器生成的隐藏向量状态输入至对应的SA‑1、SA‑2自注意力神经网络;
步骤7‑2‑3‑2:将SA‑1、SA‑2自注意力神经网络的输出反馈给第三个自注意力神经网络SA‑3进行信息整合,得到一个输入句子的整体隐藏状态hj″。
5.根据权利要求1所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:所述Shared BiLSTM生成器接收来自中文CNER任务和CWS任务的字符嵌入,使用BiLSTM模型合并字符序列两边的信息,分别从正向的正序列以及相反方向的逆序列学习医学文本信息,输出前向、后向隐藏层向量,充分集成上下文信息,学习训练集中实体和非实体的关系,生成隐藏状态;
所述Self‑Attention机制显式学习句子中任意两个字符之间的依赖关系,捕获句子的内部结构信息,根据文本中句子的权值有选择的输出中间结果;
所述CNN判别器由一个最大池化层和一个Softmax层组成,CNN判别器接收Self‑Attention机制的输出并判断Shared BiLSTM生成器生成数据的数据来源,将来自中文CNER任务的输入发送至独立的中文CNER任务进行处理,将来自CWS任务的输入发送至CWS任务进行单独处理。
6.根据权利要求5所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:步骤4中,BiLSTM隐藏层的状态的输出过程包括如下步骤:
步骤4‑1:将输入的正序列输入到Shared BiLSTM生成器的前向神经网络,得到包含上文信息的前向隐藏向量 具体计算过程为 其中xt表示字向量,表示t‑1时刻LSTM的隐藏向量输出;
步骤4‑2:再将输入的逆序列输入到Shared BiLSTM生成器的后向神经网络,得到包含下文信息的后向隐藏向量 具体计算过程为 其中, 表示t+1时刻LSTM的隐藏向量输出;
步骤4‑3:合并前向隐藏向量和后向隐藏向量得到隐藏状态输出ht,具体计算过程为其中 表示拼接运算。
7.根据权利要求1所述一种基于生成模型的医学中文命名实体识别方法,其特征在于:所述步骤6中,私有任务判别包括如下步骤:
步骤6‑1:将步骤5中对抗训练模块中的Self‑Attention机制计算出的实体特征权重送到CNN判别器中的最大池化层进行非极大值消除处理,去除冗余信息,压缩实体特性,降低上层Softmax层的计算复杂度;
步骤6‑2:CNN判别器中的Softmax函数将输出概率限制在0‑1之间,采用Softmax函数将最大池化层清洗过的实体特征权重数值映射到输入中文医学文本来自中文CNER任务的概率分数;
步骤6‑3:根据步骤6‑2得到的概率分数,鉴别所嵌入字符序列所属任务类型,输出判别结果。