1.融合句法信息的无触发词事件检测方法,其特征在于:所述方法包括:Step1、语料收集并进行预处理;
Step2、获取预处理语料的句法依存信息以及进行BPE编码获取子词单元,并分配训练语料、测试语料和验证语料;
Step3、将基于BPE子词单元的句子转为ID之后,再通过随机初始化获取句子中每个子词单元的向量表示;
Step4、根据句子BPE编码后的子词单元数量来计算出每个单词的中间位置,然后将每个单词映射为其父词的中间位置表示;
Step5、采用基于transformer的语义表示层作为编码器,将句法信息与文本的语义信息进行融合,以编码获取句子的上下文语义表征;
Step6、最后通过类型感知器获取局部的触发词特征,再将局部的触发词特征与全局的语义表征进行联合,来完成事件检测任务;
所述Step6的具体步骤如下:
Step6.1、如式(1)和式(2)所示,通过对全局特征Zglobal和候选事件类型的词嵌入G进行头数为8的多头注意力机制,来给Zglobal中潜在的触发词分配更高的权重;
t
Zatt=Contact(A),1<=t<=8 (2)其中,Zglobal为语义表示层的输出,G为候选事件类型的词嵌入, 是在输入向量t t上执行线性投影的参数,A表示多头注意力机制中每个头的最终输出;Zatt为A的拼接,表示包含触发词信息的局部特征;
Step6.2、为了获取全局的事件信息,将全局特征Zglobal和局部特征Zatt进行加权求和后再执行平均池化操作,然后经过一个线性层后获得向量H;最后,对H执行softmax获取对应类别的分布概率,并根据概率分布的值来判断输入句子的事件类型,如式(3)~(5)所示:H=Linear(AvgPooling(Zglobal+Zatt)) (3)y=soft max(WH+b) (4)
其中,H表示全局事件信息,W和b为权重和偏置,y表示输入句子是否为预标注类型的概率,表示最终的预测值。
2.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述步骤Step1具体步骤为:Step1.1、语料采用ACE2005数据集:ACE2005语料库包括8种事件类型,33种事件子类型,将33种事件子类型视为33个独立的事件类型,而忽略它们之间的层次结构;
Step1.2、ACE数据集预处理:删除数据集中触发词的标注,并为每一个句子分配一组标签,不包含任何事件时标注为NA。
3.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step2具体步骤为:Step2.1、使用Stanford CoreNLP工具获取预处理语料的句法依存信息;
Step2.2、使用BPE子词单元来缓解未登录词与罕见词问题,将输入的文本序列进行BPE编码后以补全或截断的方式固定句子长度;
Step2.3、将预处理后的数据集,按照13:1:1的比例分配训练语料、测试语料和验证语料。
4.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step3包括:将输入的文本序列进行BPE编码后以补全或截断的方式固定句子长度,将其表示为X={x1,x2,…,xi,…xn},n为句子长度,对X进行随机初始化后获得词向量W={w1,w2,…,wi,…wn},其中,wi为xi的向量表示。
5.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step5中:采用12层的transformer编码端组成编码器;其中,在第一层transformer的局部自注意力层中融入了句法信息,而其他层的transformer则采用普通的自注意力层。