1.一种具有隐私性保护的深度神经网络推理方法,其特征在于,包括以下步骤:客户端生成密钥;
客户端利用所述密钥对输入数据矩阵和训练好的深度神经网络模型的权值矩阵进行加密,加密后发送给第一边缘服务器和第二边缘服务器,深度神经网络模型的偏置矩阵存储在本地;
第一边缘服务器和第二边缘服务器利用接收到的深度神经网络模型的权值矩阵对输入数据矩阵进行线性层计算,并返回结果给客户端;
客户端对返回的结果进行验证,若结果正确则接收,若结果不正确则拒绝接收;
对于验证正确的结果,客户端利用本地存储的密钥和偏置矩阵恢复出线性层的实际输出结果;
客户端在本地进行非线性层的计算,并将计算结果作为下一层线性层的输入,循环上述步骤直至得到深度神经网络模型的最终推理结果。
2.根据权利要求1所述的深度神经网络推理方法,其特征在于,所述客户端生成密钥具体包括:
对于训练好的深度神经网络模型,一共包含Q层线性层,对应模型的第i层线性层的输入数据矩阵用Xi表示,1<=i<=Q,权值矩阵用Wi表示,偏置矩阵用Bi表示;
利用KeyGen密钥生成算法生成密钥,输入一个安全参数k,输出一个随机数矩阵Ri和一个随机数ci作为密钥,Ri里的每一个元素都是k比特的随机数,用于盲化权值矩阵Wi,其大小和Wi的大小一样,ci也是一个k比特的随机数,用于盲化第i层的输入数据矩阵Xi。
3.根据权利要求2所述的深度神经网络推理方法,其特征在于,所述对输入数据矩阵和训练好的深度神经网络模型的权值矩阵进行加密具体包括:利用Input Encryption算法对输入数据矩阵和权值矩阵进行加密,输入随机数矩阵Ri和随机数ci以及输入数据矩阵Xi和权值矩阵Wi,输出四个矩阵Xi,a,Xi,b,Wi,a和Wi,b;
加密过程如下:首先使用随机数ci构造矩阵Ci,矩阵Ci的每个元素都是ci,其大小和Xi一致;为了盲化Xi,将其分成两个矩阵Xi,a和Xi,b,然后用随机数矩阵Ri盲化权值矩阵Wi成两个矩阵Wi,a和Wi,b;加密完成后,将Xi,a和Wi,a发送给第一边缘服务器ESA,将Xi,b和Wi,b发送给第二边缘服务器ESB。
4.根据权利要求3所述的深度神经网络推理方法,其特征在于,所述加密过程中,两个矩阵Xi,a和Xi,b满足以下条件:Xi=Xi,a+Xi,b;
Ci=Xi,a‑Xi,b;
化简可得:
Xi,a=1/2(Xi+Ci);
Xi,b=1/2(Xi‑Ci);
然后用随机数矩阵Ri盲化权值矩阵Wi成两个矩阵Wi,a和Wi,b;
Wi,a=Wi+Ri;
Wi,b=Wi‑Ri。
5.根据权利要求3所述的深度神经网络推理方法,其特征在于,第一边缘服务器和第二边缘服务器利用接收到的深度神经网络模型的权值矩阵对输入数据矩阵进行线性层计算具体包括:
第一边缘服务器和第二边缘服务器利用Privacy‑Preserving Computation算法对输入数据矩阵进行线性层计算,第一边缘服务器ESA接收到Xi,a和Wi,a后,计算二者的卷积,得到结果Si,a;第二边缘服务器ESB接收到Xi,b和Wi,b后,计算二者的卷积,得到结果Si,b;算法输出是Si,a和Si,b。
6.根据权利要求5所述的深度神经网络推理方法,其特征在于,所述客户端对返回的结果进行验证具体包括:
客户端利用Verification算法来验证返回的结果,客户端随机选择Si,a或Si,b的任意个位置的值,再利用Xi、Wi和本地存储的密钥,即一个随机数矩阵Ri和一个随机数ci计算出对应位置的卷积值;客户端比较二者的值是否相等;若不相等,客户端拒绝接收返回的结果;
若相等,继续执行下一步骤。
7.根据权利要求6所述的深度神经网络推理方法,其特征在于,所述客户端利用本地存储的密钥和偏置矩阵恢复出线性层的实际输出结果具体包括:客户端利用Recovery算法恢复加密结果,该算法的输入是第一边缘服务器和第二边缘服务器返回的结果Si,a和Si,b;客户端首先使用随机数ci构造矩阵Ci,矩阵Ci的每个元素都是ci,其大小和Xi一致;然后客户端使用Ci、本地存储的随机数矩阵Ri和偏置矩阵Bi来恢复实际输出结果Oi;Oi=Si,a+Si,b‑Ci·Ri+Bi,则Oi就是第i层线性层的实际输出结果。
8.根据权利要求7所述的深度神经网络推理方法,其特征在于,第i+1层线性层的输入Xi+1=NF(Oi),NF是非线性层的激活函数;循环执行上述各个算法直至得到深度神经网络模型的最终推理结果Res=NF(OQ)。
9.根据权利要求1‑8中任一项所述的深度神经网络推理方法,其特征在于,所述深度神经网络模型包括输入层、隐藏层和输出层,隐藏层包括卷积层、激活层、池化层和全连接层;
其中,卷积层和全连接层为线性层,激活层和池化层为非线性层。