1.一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,步骤包括:步骤S1,获取数据并对数据进行预处理;
步骤S2,构建提示模板;
步骤S3,构建依赖感知自注意力模块;
步骤S4,构建论元角色引导跨度选择器;
步骤S5,计算边界损失;
所述S3中,构建依赖感知自注意力模块的具体步骤如下:
S31,将经过S1更新后的文档输入预训练编码器Encoder,生成上下文语义表示,具体如下:同时,将事件提示模板也输入预训练编码器Encoder,生成提示模板的初始表示,具体如下:S32,强化角色间的依赖关系,在解码器的自注意力层中设计角色依赖感知掩码矩阵 ,然后进行角色感知自注意力计算,具体公式如下:其中,为角色感知提示表示,为事件提示模板,表示激活函数,为矩阵转置,表示事件的提示模板,表示自注意力机制,Q、K、V分别表示查询、键、值矩阵,表示角色依赖感知掩码矩阵, 表示维度缩放因子;
S33,在解码器的交叉注意力层中,将上下文语义表示与角色感知提示表示进行交互,过程如下:其中,CrossAttention为交叉注意力机制,为提示表示,为角色感知提示表示,为提示模板的初始表示。
2.根据权利要求1所述的一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,所述S1中,对于文档,给定一个事件触发词,在触发词前后分别插入,更新后的文档表示如下:其中,表示更新后的文档,表示事件触发词,表示文档中第个词,和分别是用于标记触发词前后的特殊符号。
3.根据权利要求1所述的一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,所述S2中,针对数据集中的每个事件类型,构建包含其所有论元角色的提示模板 ,其中,为论元角色,为事件中包括的所有论元角色。
4.根据权利要求1所述的一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,所述S2中构建提示模板的方法包括:(1)人工提示,通过自然语言手动连接角色形成完整语义模板,先将所有论元角色罗列,然后通过具有语义关系的词语连接,使其语义完整;
(2)拼接提示,直接串联角色名称形成结构化模板,不增加其他词,只通过罗列所有论元角色形成模版;
(3)软提示,采用可学习的角色特定伪令牌动态生成模板,计算事件当中包含的论元角色数量,补充等数量的伪令牌,最后生成事件模版。
5.根据权利要求1所述的一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,所述S4中,构建论元角色引导跨度选择器的方法如下:基于S33,将提示模板中的第个槽对应的表示从中平均池化,得到角色特征,具体公式如下:其中,表示平均池化,表示提示模板中的第个槽的开始位置索引,表示提示模板中的第个槽的结束位置索引,为提示表示;
一个角色可能有多个槽,相应地,也可能有多个角色特征和角色填充器,对于给定的角色特征有:得到的论元角色引导跨度选择器表示为:其中,和是所有论元角色共享的可学习参数矩阵,表示开始矩阵,表示结束矩阵,表示逐元素乘法,表示槽的开始词特征表示,表示槽的结束词特征表示。
6.根据权利要求1所述的一种基于依赖感知和角色引导的能源电力文档级事件论元的抽取方法,其特征在于,所述S5中,计算边界损失的方法如下:基于上下文语义表示和论元角色引导跨度选择器,先计算每个槽开始词和结束词的位置分布,每个都从中抽取一个论元跨度并表示为为跨度的开始索引,为跨度的结束索引,上下文中没有该论元的跨度时,跨度表示为(0,0),每个槽开始词和结束词的位置分布计算公式如下:然后,计算槽开始词和结束词所在位置的概率分布,具体公式如下:最后,损失函数为:其中,为槽的开始词特征表示,为槽的结束词所在位置的概率,表示激活函数,函数为函数的反函数,为槽开始位置概率的对数几率,为槽结束位置概率的对数几率,表示损失函数,表示跨度的开始索引,表示跨度的结束索引。