欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022110501241
申请人: 辽宁工程技术大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于贝叶斯变分推断的持续学习方法,其特征在于,包括以下步骤:

1)获取待训练的任务,所述待训练的任务是当前任务图像和前一个任务所生成的伪样本图像;

2)将所述待训练的任务输入到模型中进行训练,经过编码器进行特征提取,获得所述任务的均值和协方差;

3)基于贝叶斯变分推断方法得到网络中表征的后验分布,计算参数估计的不确定性,以及模型变分推断的损失;贝叶斯变分推断方法采用的损失函数如下:其中,t,Nt分别是第t个任务和它所包含的样本数;表示第n样本及其真实标签;qt(ω),代表第t和t-1任务的隐藏空间中潜在变量z的后验分布;ω代表其网络中得到的参数;在贝叶斯变分推断中,为了得到其任务的参数分布,采用KL散度(Kullback-Leiblerdivergence)进行衡量,则KL(qt(ω)||qt-1(ω)),为得到当前任务的后验分布,将前一个任务的后验分布作为当前模型训练的先验分布;为极大似然估计函数;在训练过程中需要满足最小化贝叶斯变分推断损失函数

4)通过极大似然估计,进行训练模型分类器,得到最优分类结果;

5)将上述2中得到的潜在特征先验分布服从高斯混合分布,通过解码器生成伪样本图像,并计算深度生成模型的损失;

高斯混合模型GMM是一个普遍存在的用于密度估计、模式识别和函数逼近的统计模型,它具有解析可处理性、渐进性和连续密度函数的通用近似能力;在生成伪样本使用高斯混合概率分布代替先验分布,使得每个类别都有单独的模型,潜在变量z的分布更加灵活,与此同时增加模型的可塑性,通过对z的采样限制模型生成指定的类别;则将原有潜在空间的特征进行转换为:其中pΩ(z)分别是高斯混合模型GMM后验分布和先验分布,Ω是每个高斯模型的均值和标准差的集合,αk=y表示输入类别,K为αk输入总数,对应类先验系数ωk=ω'k=p(y=αk)=1/k,进一步基于高斯混合先验分布得到的潜在变量的KL散度损失:

其中和是第k个目标值平均值和标准差;

解码器网络pφ根据潜在变量z的后验分布进行重构伪样本图片让潜在变量特征z生成的伪样本与原始任务输入数据相似,减小生成伪样本的误差,重构损失函数表达式应变为:其中,φ分别为编码器和解码器的分布参数;进一步深度生成模型的损失函数应为:。

2.根据权利要求1所述一种基于贝叶斯变分推断的持续学习方法,其特征在于,进行编码器网络特征提取,其中z代表数据在隐藏空间中的特征向量。