欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2021104516508
申请人: 昆明理工大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.融合句法信息的无触发词事件检测方法,其特征在于:所述方法包括:Step1、语料收集并进行预处理;

Step2、获取预处理语料的句法依存信息以及进行BPE编码获取子词单元,并分配训练语料、测试语料和验证语料;

Step3、将基于BPE子词单元的句子转为ID之后,再通过随机初始化获取句子中每个子词单元的向量表示;

Step4、根据句子BPE编码后的子词单元数量来计算出每个单词的中间位置,然后将每个单词映射为其父词的中间位置表示;

Step5、采用基于transformer的语义表示层作为编码器,将句法信息与文本的语义信息进行融合,以编码获取句子的上下文语义表征;

Step6、最后通过类型感知器获取局部的触发词特征,再将局部的触发词特征与全局的语义表征进行联合,来完成事件检测任务;

所述Step6的具体步骤如下:

Step6.1、如式(1)和式(2)所示,通过对全局特征Zglobal和候选事件类型的词嵌入G进行头数为8的多头注意力机制,来给Zglobal中潜在的触发词分配更高的权重;

t

Zatt=Contact(A),1<=t<=8        (2)其中,Zglobal为语义表示层的输出,G为候选事件类型的词嵌入, 是在输入向量t t上执行线性投影的参数,A表示多头注意力机制中每个头的最终输出;Zatt为A的拼接,表示包含触发词信息的局部特征;

Step6.2、为了获取全局的事件信息,将全局特征Zglobal和局部特征Zatt进行加权求和后再执行平均池化操作,然后经过一个线性层后获得向量H;最后,对H执行softmax获取对应类别的分布概率,并根据概率分布的值来判断输入句子的事件类型,如式(3)~(5)所示:H=Linear(AvgPooling(Zglobal+Zatt))   (3)y=soft max(WH+b)   (4)

其中,H表示全局事件信息,W和b为权重和偏置,y表示输入句子是否为预标注类型的概率,表示最终的预测值。

2.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述步骤Step1具体步骤为:Step1.1、语料采用ACE2005数据集:ACE2005语料库包括8种事件类型,33种事件子类型,将33种事件子类型视为33个独立的事件类型,而忽略它们之间的层次结构;

Step1.2、ACE数据集预处理:删除数据集中触发词的标注,并为每一个句子分配一组标签,不包含任何事件时标注为NA。

3.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step2具体步骤为:Step2.1、使用Stanford CoreNLP工具获取预处理语料的句法依存信息;

Step2.2、使用BPE子词单元来缓解未登录词与罕见词问题,将输入的文本序列进行BPE编码后以补全或截断的方式固定句子长度;

Step2.3、将预处理后的数据集,按照13:1:1的比例分配训练语料、测试语料和验证语料。

4.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step3包括:将输入的文本序列进行BPE编码后以补全或截断的方式固定句子长度,将其表示为X={x1,x2,…,xi,…xn},n为句子长度,对X进行随机初始化后获得词向量W={w1,w2,…,wi,…wn},其中,wi为xi的向量表示。

5.根据权利要求1所述的融合句法信息的无触发词事件检测方法,其特征在于:所述Step5中:采用12层的transformer编码端组成编码器;其中,在第一层transformer的局部自注意力层中融入了句法信息,而其他层的transformer则采用普通的自注意力层。