欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2021102886290
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于端到端的分布式深度哈希检索方法,其特征在于包括以下步骤:步骤1:构建分布式哈希检索环境,所述分布式哈希检索环境中包括若干个计算节点以及节点之间的通信链路;每个节点网络都有各自的由带标记信息的图片集构成的训练样本;节点网络包括特征提取层、哈希层和输出层;哈希层与输出层之间的全连接的参数,称为全连接层;

步骤2:每个节点采用微调的ResNet网络架构,并进行参数初始化;所述微调的ResNet网络架构包括特征提取层、哈希层、输出层;

步骤3:每个节点用训练样本batch进行第一次前向传播,通过特征提取层得到训练样本batch的特征;

步骤4:利用提取到的特征通过哈希层和输出层,并输出分类信息;

步骤5:通过交替方向乘子法ADMM优化所有节点ResNet网络中的全连接层参数,使得ADMM优化后的全连接层参数达到全局最优,并将该参数赋值给每个节点网络的全连接层;

步骤6:每个节点用与步骤3中同样的训练样本batch通过ResNet网络进行第二次前向传播;

步骤7:通过最小化分类误差和约束哈希码的目标函数进行训练,即利用深度学习的反向传播机制,在固定全连接层参数的情况下,更新ResNet网络的特征层参数;

步骤8:观察loss曲线是否收敛,若收敛则训练完成,反之,重复步骤3‑7;

步骤9:训练完成后,保存模型,并通过模型实现哈希编码函数,把图片转变成哈希码,将哈希码保存为数据库;

步骤10:将需要查询的图像输入到模型中,生成哈希码,并在数据库中进行搜索,通过比较哈希码之间的汉明距离,返回汉明距离最近的图像,即是需要查找的图像。

2.根据权利要求1所述的基于端到端的分布式深度哈希检索方法,其特征在于,步骤1中,不同节点之间的数据集类别相同,但完全独立,彼此所采用的样本互有差异。

3.根据权利要求1所述的基于端到端的分布式深度哈希检索方法,其特征在于,步骤2中,所述参数初始化是利用在ImageNet数据集上预训练好的ResNet模型对节点网络进行参数初始化,并将拉格朗日乘子矩阵初始化为全0矩阵。

4.根据权利要求1所述的基于端到端的分布式深度哈希检索方法,其特征在于,步骤5包括如下步骤:

利用第i个节点中第m个batch图像的哈希特征 及其对应的标签Yi,m,通过最小化分类误差,并对每个节点的全连接层参数Wi进行一致性约束,最终得到当前全局最优的全连接层参数W;目标函数及其对应的增广拉格朗日函数,以及ADMM的迭代步骤如下所示:目标函数:

增广拉格朗日函数:

ADMM迭代步骤:

其中

在公式(1‑1)中,Wi和bi是指第i个节点的全连接层参数, 是指第i个节点中第m个batch图像的哈希特征,t为哈希特征的维度,n为batch中样本的数量; 为所对应的标签,c为分类的类别数量,n为batch中样本的数量;L为交叉熵损失函数,λ为正则化项系数,用于控制正则项的相对重要性,N表示为分布式系统中的节点总数;F为范数,计算方式为矩阵中所有元素的平方和再开根号;在公式(1‑2)中, 为当前batch全局最优的全连接层参数,t为哈希特征的维度,c为分类的类别数量,ρ为惩罚系数,Λi为拉格朗日乘子,Ui为转换因子,用来表示ρ和Λi;当优化完所有节点ResNet网络中的全连接层参数后,得到当前最优的参数W,将该参数赋值给每个节点网络的全连接层,为第二次前向传播做准备。

5.根据权利要求1所述的基于端到端的分布式深度哈希检索方法,其特征在于,步骤7中,通过最小化分类误差和约束哈希码的目标函数进行训练,即利用深度学习的反向传播机制,在固定全连接层参数的情况下,更新ResNet网络的特征层参数;特征层参数除固定全连接层参数外,不仅包括ResNet网络特征提取层的参数,还包括特征提取层与哈希层之间的全连接层参数;详情如下所示:

最小化分类误差函数:

在公式(1‑6)中,Xi,m是指第i个节点中第m个batch的图像, 为Xi,m所对应的标签,c为分类的类别数量,n为batch中样本的数量, Fi为第i个节点中ResNet总体特征提取层的函数表达,Θi指的是第i个节点中ResNet特征层参数表达;bi为第i个节点中全连接层参数偏置,L为交叉熵损失函数;通过优化该目标函数,调用反向传播机制更新第i个节点的ResNet的特征层参数Θi;

哈希码约束函数:

在公式(1‑7)中, t为哈希层的维度,即哈希特征的长度;若在一个epoch中,第m个batch的图像个数为n,则 表示为第m个batch中第j张图像的哈希特征,e是所有元素为1的t维向量;通过最大化目标函数 使哈希层生成的哈希特征更加接近0或1,从而满足二值化的要求;通过最小化目标函数使哈希层生成的哈希特征二值化以后,0和1的数量尽可能的相等,从而满足哈希码的平衡性,其中, 表示为第m个batch中第j张图像哈希特征的平均值;Θi指的是第i个节点中ResNet50特征层参数表达,通过优化公式(1‑7),更新Θi;;p的取值为1或2,p=1则表示1‑范数,p=2则表示2‑范数。

6.根据权利要求1所述的基于端到端的分布式深度哈希检索方法,其特征在于,步骤9中,当训练完成后,需要保存每个节点的模型,并通过模型实现哈希编码函数,把图片转变成哈希码;将参与网络训练的图像输入到模型中,经过网络特征层和哈希层,得到哈希特征,接着进行二值化处理,最终构建出具有0、1哈希码的数据库;将需要查询的图像以同样的方式输入到模型中,即可生成哈希码;

哈希码编码函数如下所示:

bi,j=(sgn(σ(Fi(xi,j,Θi))‑0.5)+1)/2      (1‑8)在公式(1‑8)中,xi,j代表检索阶段第i个计算节点的第j张图像,Fi为第i个节点中ResNet50总体特征提取层的函数表达,Θi指的是第i个节点中ResNet50特征层参数表达,σ(·)为Sigmoid函数,被定义为σ(z)=1/(1+exp(‑z)),其中z为实数值;sgn(·)则为符号函数,以0.5为准则,大于0.5则判为1,小于0.5则判为0; 为第i个计算节点的第j张图像的哈希码,哈希码的长度为t。