1.一种多特征融合的视频描述方法,其特征在于,包括如下步骤:导入数据集,所述数据集包括多个数据组,各个所述数据组包括视频与描述信息;
分别对各个所述数据组中的视频进行特征提取,得到运动特征和全局特征,将所述运动特征和所述全局特征进行特征拼接,得到各个视频对应的视频特征;
分别提取各个数据组中描述信息对应的对象特征,并计算各个对象特征的贡献值,根据各个贡献值计算对应视频中所有视频帧的区域特征和;
分别将各个所述视频对应的对象特征、视频特征以及区域特征和输入训练模型中进行融合训练,得到融合特征;
分别将各个所述视频对应的描述信息转换为文本特征;
分别将各个所述视频对应的文本特征和各个所述视频对应的融合特征输入到预设的transformer语言模型中,输出与各个视频对应的视频描述语句。
2.根据权利要求1所述的多特征融合的视频描述方法,其特征在于,所述分别对各个所述数据组中的视频进行特征提取,得到运动特征和全局特征,将所述运动特征和所述全局特征进行特征拼接,得到各个视频对应的视频特征,具体为:通过ResNet101网络对所述数据组中的视频进行特征提取,得到运动特征和全局特征;
通过拼接公式将所述运动特征和所述全局特征进行特征拼接,得到视频特征,所述拼接公式为F
3.根据权利要求1所述的多特征融合的视频描述方法,其特征在于,所述分别提取各个数据组中描述信息对应的对象特征,并计算各个对象特征的贡献值,根据各个贡献值计算对应视频中所有视频帧的区域特征和,具体为:通过Faster-RCNN快速区域卷积网络对各个所述数据组中的描述信息进行特征提取,得到对象特征;
根据贡献值公式计算各个对象特征的贡献值,所述贡献值公式为根据区域特征公式和所述贡献值计算对应视频中所有视频帧的区域特征和,所述区域特征公式为
4.根据权利要求3所述的多特征融合的视频描述方法,其特征在于,所述分别将各个所述视频对应的对象特征、视频特征以及区域特征和输入训练模型中进行融合训练,得到融合特征,具体为:所述训练模型包括交叉多头注意块,其中,所述交叉多头注意块包括处理模块和输出模块,所述处理模块用于通过融合计算公式中进行融合训练,其中,所述融合计算公式为:H
H
H
其中,MultiHead为交叉多头注意块符号,F
所述输出模块用于输出融合结果,所述融合结果为:
其中,
5.一种多特征融合的视频描述装置,其特征在于,包括:导入模块,用于导入数据集,所述数据集包括多个数据组,各个所述数据组包括视频与描述信息;
预处理模块,用于分分别对各个所述数据组中的视频进行特征提取,得到运动特征和全局特征,将所述运动特征和所述全局特征进行特征拼接,得到各个视频对应的视频特征;分别提取各个数据组中描述信息对应的对象特征,并计算各个对象特征的贡献值,根据各个贡献值计算对应视频中所有视频帧的区域特征和;
多特征融合模块,用于分别将各个所述视频对应的对象特征、视频特征以及区域特征和输入训练模型中进行融合训练,得到融合特征;
描述生成模块,用于分别将各个所述视频对应的描述信息转换为文本特征;分别将各个所述视频对应的文本特征和各个所述视频对应的融合特征输入到预设的transformer语言模型中,输出视频描述语句。
6.根据权利要求5所述的多特征融合的视频描述装置,其特征在于,所述预处理模块中,分别对各个所述数据组中的视频进行特征提取,得到运动特征和全局特征,将所述运动特征和所述全局特征进行特征拼接,得到各个视频对应的视频特征,具体为:通过ResNet101网络对所述数据组中的视频进行特征提取,得到运动特征和全局特征;
通过拼接公式将所述运动特征和所述全局特征进行特征拼接,得到视频特征,所述拼接公式为F
7.根据权利要求5所述的多特征融合的视频描述装置,其特征在于,所述预处理模块中,分别提取各个数据组中描述信息对应的对象特征,并计算各个对象特征的贡献值,根据各个贡献值计算对应视频中所有视频帧的区域特征和,具体为:通过Faster-RCNN快速区域卷积网络对各个所述数据组中的描述信息进行特征提取,得到对象特征;
根据贡献值公式计算各个对象特征的贡献值,所述贡献值公式为根据区域特征公式和所述贡献值计算对应视频中所有视频帧的区域特征和,所述区域特征公式为
8.根据权利要求7所述的多特征融合的视频描述装置,其特征在于,所述多特征融合模块中,分别将各个所述视频对应的对象特征、视频特征以及区域特征和输入训练模型中进行融合训练,得到融合特征,具体为:所述训练模型包括交叉多头注意块,其中,所述交叉多头注意块包括处理层和输出层,所述处理层用于通过融合计算公式中进行融合训练,其中,所述融合计算公式为H
H
H
其中,F
所述输出层用于输出融合结果,所述融合结果为
其中,
9.一种视频描述装置,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,当所述处理器执行所述计算机程序时,实现如权利要求1至4任一项所述的多特征融合的视频描述方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,当所述计算机程序被处理器执行时,实现如权利要求1至4任一项所述的多特征融合的视频描述方法。