欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022105031227
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:所述无监督域适应方法包括如下步骤:步骤1:每个目标域样本输入源域接口,得到伪标签,构建蒸馏损失,伪标签与蒸馏模型通过最小化蒸馏损失得到初始化蒸馏模型;

步骤2:使用步骤1得到的初始化蒸馏模型,对每个所述初始化蒸馏模型使用域注意权重,寻求伪标签的最佳组合;

步骤3:设计注意力机制,将查询源接口的输出作为类别注意权重来抑制源域私有类的影响,结合步骤2中的域注意权重得到最终目标域样本伪标签;

步骤4:对步骤3得到的最终目标域样本伪标签,使用伪标签聚类进行矫正;

步骤5:根据步骤4得到的矫正伪标签,计算矫正伪标签属于第一高和第二高的类别概率之差,并和阈值比较大小,大于阈值说明结果对于概率最高的类别有信心,以此来判断样本是否属于目标域私有类别,属于私有类的自信息熵最大化,反之,最小化;

步骤6:整体损失计算梯度,反向传播,迭代更新网络参数直至损失收敛,对目标域数据样本进行预测得到预测标签,与目标域数据样本的真实标签比较,对于每一类计算出该类的平均分类准确率,再计算根据已知类和未知类准确率重新定义的H‑Score作为度量结果。

2.根据权利要求1所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:所述步骤1中的蒸馏损失定义为:其中NT代表目标域样本个数,lce代表交叉熵损失; 代表样本xi属于源域各类别的概率输出向量,j代表第j个源域接口,每个蒸馏模型hj由特征提取器gj和分类器fj组成,σ代表softmax函数。

3.根据权利要求1所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:所述步骤4使用伪标签聚类进行矫正具体包括如下步骤:步骤4‑1:设定标签分布

步骤4‑2:矫正的标签分布 定义为:

其中: 代表目标域样本预测属于第k类的概率, 代表矫正后的预测属于第k类的概率,K代表类别个数;NT代表目标域样本个数;

步骤4‑3:最小化原伪标签和矫正标签之间的交叉熵损失来使得模型输出靠近矫正后的标签分布,交叉熵损失定义如下:其中:NT代表目标域样本个数,lce代表交叉熵损失;pi代表最终目标域样本伪标签。

4.根据权利要求2或3所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:步骤2中,所述初始化蒸馏模型使用域权重表示为ωj,j=1...N,与目标域越接近的源域,其对应蒸馏模型输出的伪标签权重越大。

5.根据权利要求1所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:步骤3中的注意力机制定义为:其中:NT代表目标域样本个数, 代表样本xi属于源域各类别的概率输出向量,j代表第j个源域接口;

最终目标域样本伪标签为:

其中:N代表表源域中样本个数,ωj代表初始化蒸馏模型使用域权重,ψj代表注意力机制,j代表第j个源域接口,σ代表softmax函数,hj代表蒸馏模型, 代表目标域样本。

6.根据权利要求1所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:所述步骤5中的信息熵定义为其中:NT代表目标域样本个数,H(·)代表自信息熵,g(·)是一个判断函数,属于已知类的目标域样本判断为正,反之,为负,g(·)定义如下:其中 代表概率最高的类别输出, 代表概率第二高的类别输

出,τ和ρ都是阈值。

7.根据权利要求1所述一种基于黑盒多源域通用场景下的无监督域适应方法,其特征在于:所述步骤6中的H‑Score定义如下:其中Accin和Accout分别代表已知类准确率和未知类准确率。