欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2019113754067
申请人: 杭州电子科技大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-01-05
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于Sliced‑Wasserstein距离的深度自编码进行图像降维并嵌入聚类的方法,其特征在于,包括步骤:S1.构建基于Sliced‑Wasserstein距离的自编码网络模块;本步骤中构建的自编码网络模块由编码器f(x;θf)和解码器g(z;θg)组成;

原始图像经过网络的编码器,在指定的特征空间中提取图像的低维特征向量z,再经过网络的解码器,得到重构的新图像;设数据x1,x2,...,xN∈X是原始图像的输入,z是自编码网络中编码器f(x;θf)输出的特征向量,而x′n是解码器g(z;θg)的输出重构图像,为了使网络重构后的图像保留更多原始图像的特征信息,利用均方损失、L1范数损失以及Sliced‑Wasserstein的近似距离来约束网络的重构和映射至潜在特征空间的性能,即其中,μ表示输入数据的分布;η表示自编码网络重构后的数据分布,pz表示数据在指定特征空间中编码后的分布;qz表示预先定义的采样分布;λ表示一个超参数,用于鉴定损失函数的相对重要性;

d‑1 d d‑1

设S 是概率空间Ω中的单位球,对于一个向量vn∈S ,其中vn={v1,...,vN}代表选取的N个切片单元,(∏v)#η表示η的投影分布,Γ(η,μ)表示的是η和μ组合起来的所有可能联合分布的集合,自编码器模块的最终优化约束条件为:S2.构建聚类模块,包括构建聚类模块中的软分配、KL损失优化、软聚类损失优化;

构建聚类模块中的软分配:

假设质心为ρ1,ρ2,...,ρK,使用t分布作为核函数来测量嵌入点zi和质心ρj之间的相似性,具体为:其中,ρj表示质心;zi表示嵌入点;zi=fθ(xi)∈Z对应于数据点xi∈X嵌入后的特征向量;Z表示数据提取特征后的低维空间;X表示数据的原始空间;α表示t分布的自由度;qij表示将样本i分配给聚类质心ρj的概率;自由度α=1;

构建聚类模块中的KL损失优化:

在辅助目标分布的帮助下,模型通过将软分配与辅助分布相匹配来进行训练;为此,将目标函数定义为软分配分布qi和辅助分布pi之间的KL‑divergence损失:通过将qi提升到第二个幂然后按每个簇的频率进行归一化来定义辅助目标函数pi:其中,fj=∑iqij表示软集群频率;qij通过嵌入式聚类网络由式(7)计算得到;通过对原始分布求平方并对其进行归一化,辅助分布pij强制赋值具有更严格的概率,即更接近0和1;

构建聚类模块中的软聚类损失优化:

软聚类需要最小化损失函数

其中,Ewkm表示软聚类最小损失;需要满足条件φi(k)>0; 在神经网络的训练中,质心根据网络的迭代训练过程进行更新优化,对于软分配的计算,将公式设置为φi(k)=qij;

S3.将所述构建的自编码网络模块和聚类模块进行联合,构建基于Sliced‑Wasserstein距离的自编码嵌入式聚类网络;本步骤具体为:将构建的自编码网络模块和构建的聚类模块中的软分配、KL损失优化、软聚类损失优化进行联合到最终的网络中;结合式(6)和式(8)、式(10),得到最终的整个网络的损失函数为:其中,α,β,γ表示超参数,用于协调网络各部分之间的权重;

S4.初始化构建后的自编码嵌入式聚类网络的聚类中心,将无标签的数据集输入到网络进行迭代训练,并对自编码嵌入式聚类网络进行处理,当所述处理后的自编码嵌入式聚类网络达到预设阈值时,完成最终的聚类;本步骤具体为:搭建完嵌入式聚类网络的整体模块后,首先初始化网络的聚类中心,再将无标签的数据集输入到网络进行迭代的训练,微调超参数α,β,γ,网络根据最终的网络损失函数(11)自动优化嵌入式聚类网络,当达到迭代次数时,终止训练,从而完成最终聚类。

2.根据权利要求1所述的一种基于Sliced‑Wasserstein距离的深度自编码进行图像降维并嵌入聚类的方法,其特征在于,步骤S4中,初始化构建后的自编码嵌入式聚类网络的聚类中心采用Xavier Uniform方法初始化。