1.基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,包括以下步骤:S1、利用数据构造器将电子病历自然语句进行重新构造,将电子病历自然语句由原本的一维序列转变为多维层次序列X,所述数据构造器的定义是:采用一个固定大小的滑动窗口来切分句子以构造具有相关性的多维层次序列X;
S2、采用向量表示技术,将多维层次序列X向量化,得到输入特征向量X*,即:将电子病历自然语句中的每个词映射为一个由词向量与位置向量拼接而成的低维向量;
S3、采用卷积循环神经网络ConvLSTM从输入特征向量X*中直接学习到文本语句的局部上下文信息与全局语义信息,得到上层句子向量H;
S4、采用两级注意力机制,从上层句子向量H中获取到有助于正确关系预测的高级别句子向量rs;
S5、根据获取到的高级别句子向量rs进行关系判定,得到预测标签。
2.根据权利要求书1所述的基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,所述步骤S1的具体方法为:令数据构造器的滑动窗口值为ω,滑动步长为Δ,对包含n个词的句子S={x1,x2,…,xn},重新构造后获得多维层次序列X:X中每一个行向量代表一个序列片段。
3.根据权利要求书2所述的基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,所述步骤S2的具体方法为:S21、词向量:将每个词xi转换成一个低维实值向量 每个词的词向量由词嵌入矩阵中的一个向量编码表示,其中dw是词向量的维度,V是固定大小的输入词表;
S22、位置向量:将每个词距实体1(或实体2)的距离映射为位置特征空间 上一个随机初始化的位置向量,其中dp代表位置向量的维度,对于任意单词xi,具有两个位置向量S23、将词向量与位置向量进行拼接,获得输入单词特征向量其中wi∈Rd,d=dw+2dp,(·)T表示矩阵向量的转置;
对于输入的多维层次序列X,经向量表示后,获得输入特征向量 k表示序列片段的数量。
4.根据权利要求3所述的基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,所述步骤S3的具体方法为:所述ConvLSTM网络通过卷积操作(*)获取局部信息,利用输入门it、遗忘门ft和输出门ot控制信息流,信息流包括当前输入状态 先前隐藏状态ht-1和先前候选状态ct-1,t代表第t个序列片段;输入门it的计算方式为:其中σ(·)代表sigmoid函数, 表示Hadamard乘积,Wxi、Whi、Wci为输入门it中需要学习的权重矩阵,bi表示输入门it中的偏置向量;
同样地,遗忘门ft与输出门ot的计算方式分别为:
其中Wxf、Whf、Wcf为遗忘门ft中需要学习的权重矩阵,bh表示遗忘门ft中的偏置向量,Wxo、Who、Wco为输出门ot中需要学习的权重矩阵,bo表示输出门ot中的偏置向量;
之后可获得当前时刻的候选状态ct,具体计算方式为:
tanh(·)代表双曲正切函数,Wxc、Whc为当前候选状态ct中需要学习的权重矩阵,bc表示当前候选状态ct中的偏置向量;
最后,通过将非线性变换后的当前候选状态ct与输出门ot进行Hadamard乘积操作,得到当前时刻的隐藏状态输出ht:经过ConvLSTM网络后,得到上层句子向量H={h1,h2,h3,...,hk}。
5.根据权利要求4所述的基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,所述步骤S4的具体方法为:对于步骤S3中ConvLSTM网络输出的上层句子向量H={h1,h2,h3,...,hk},在每一个隐藏状态输出ht(第t个序列片段的向量表示)内部做单词向量的线性加权,获得新的向量表示Wtα表示模型参数向量,αt表示第t个序列片段中每个词所对应的权重向量;
经过一级注意力操作后得到新的句子向量表示
将序列片段 与语义关系r进行匹配:
其中A是一个加权对角矩阵,et用于表示第t个序列片段和关系r的匹配程度,βt表示第t个序列片段所对应的权重,通过对每个序列片段进行加权汇总,得到最终的高级别句子向量rs:
6.根据权利要求5所述的基于卷积循环神经网络的电子病历实体关系抽取方法,其特征在于,所述步骤S5的具体方法为:采用由m个节点组成的全连接层以从高级别句子向量rs中获取分类器,m对应关系类型的数量,之后应用softmax分类器以获得每个关系类的条件概率,并获得预测关系P(y|L,θ)=softmax(Wlrs+bl)其中θ表示所提出模型的所有参数,Wl和bl是全连接层所对应的权重矩阵和偏置向量;
使用真实关系和预测关系的交叉熵作为目标函数:
其中,第一项是经验风险,第二项是正则化项;ti∈{0,1}表示第i类关系的真实标签;yi是预测为第i类关系的概率;λ是L2正则化的超参数,用于调整经验风险和正则化之间的关系以平衡经验风险与模型复杂度。