1.一种基于降噪自编码器的SCMA编解码器模型的建立方法,其特征在于:该方法包括下列顺序的步骤:
(1)首先建立基于降噪自编码器与全连接神经网络的SCMA编码器,将用户的原始输入数据映射为码字;
(2)将每个资源块上的所有用户的码字叠加传输,再将每个资源块上的信号叠加信道噪声;
(3)在接收端建立基于全连接神经网络的SCMA解码器,解码出所有用户的原始输入数据;
(4)所述SCMA编码器、信道和SCMA解码器共同组成基于降噪自编码器的SCMA编解码器模型,训练基于降噪自编码器的SCMA编解码器模型;
(5)测试上述基于降噪自编码器的SCMA编解码器模型的BER性能;
所述步骤(1)中建立基于降噪自编码器与全连接神经网络的SCMA编码器具体包括以下步骤:
(1a)将每个用户的原始输入数据编码为单热向量,每个用户每次传输的信息表示为s,b
其中,s为二进制比特数据,有m种可能信息,其中m=2,b表示每次传输的比特数;选择随机产生二进制输入数据,编码成单热向量,即为一个m维的向量,并且只有其中的一个元素为
1,其余元素均为0,编码后的单热向量作为每个码字映射器的输入;
(1b)建立基于降噪自编码器与全连接神经网络的SCMA码字映射器,在每个全连接的深度神经网络单元即DNN单元之前加入噪声层,构造出每个用户对应于不同资源块的码字映射器;
(1c)由每个用户占用资源块的状况获取因子图,获得对应的因子图矩阵,按照因子图矩阵连接这些SCMA码字映射器构成SCMA编码器;再由发射机将叠加的编码码字发送到对应的资源块上;
所述步骤(1b)具体包括以下步骤:(1b1)为每个用户随机产生二进制比特数据流,作为码字映射器的输入数据;
(1b2)在每个全连接的深度神经网络单元即DNN单元之前加入噪声层,噪声采用高斯白噪声;
(1b3)建立隐藏层用于信号特征的学习与提取,激活函数采用relu激活函数,则第l层隐藏层的输出数据表示为:
其中,Wl表示第l层的权重,bl表示第l层的偏置,yl‑1表示第l‑1层隐藏层的输出,输出采用线性激活函数,即不对输入的上一层数据做任何改变;W和b合称参数θ;W表示权重,b表示偏置;
(1b4)在每层隐藏层中,数据在进行非线性运算之前均采取以下步骤先进行批量归一化:
分批训练过程中,一次训练过程里面包含c个训练实例,其具体归一化操作就是对于隐层内每个神经元的激活值来说,进行如下变换:其中,h表示第h个神经元,x为某个隐层神经元的线性激活值,即x=Wu+b,其中W和b是神经网络的参数,W表示权重,b表示偏置,u为上一层的某个神经元输出值;E(x)和Var(x)分别是c个实例获得的c个激活值x求得的均值和方差;
由于上述变换进行归一化处理,把标准差也限制在1,这样就相当于破坏了这一层网络所学习到的特征分布;因此在每个神经元增加两个调节参数,即scale和shift,这两个参数是通过训练来学习到的,用来对变换后的激活进行变换重构,使得网络表达能力增强,即对变换后的激活进行如下的scale和shift操作:其中,h表示第h个神经元,γ、β为可学习重构参数,表示归一化变换后的神经元激活(h)
值,y 表示经过式(8)变换重构后第h个神经元的最终输出值;
(1b5)码字映射器输出为某个用户映射到某个资源块上的码字,其中fkj(sj;θ1)表示为第j个用户数据映射到第k个资源块上的码字,θ1表示该码字映射器的权重和偏置,是需要训练更新的重要参数,sj为用户j发送的原始输入数据;输出层输出2维数据,分别表示复数码字的实部和虚部。
2.根据权利要求1所述的基于降噪自编码器的SCMA编解码器模型的建立方法,其特征在于:所述步骤(2)中的信道噪声采用高斯白噪声,信道噪声功率的方差为β,β表示为:2
其中,E[|x|]表示传输信号功率,η表示频谱效率,Eb/N0表示比特信噪比。
3.根据权利要求1所述的基于降噪自编码器的SCMA编解码器模型的建立方法,其特征在于:所述步骤(3)具体包括以下步骤:(3a)建立SCMA解码器的输入层,信道输出信号作为接收端解码器的输入信号;其中,第k个资源块上的接收信号为:
其中,θ1表示基于全连接神经网络的SCMA编码器的参数,fkj(sj;θ1)为第j个用户经过码字映射器后在资源k上的码字,hkj为对应的信道增益,nk为资源k上的噪声,yk表示资源k上的接收信号;sj为第j个用户的原始输入数据;
(3b)在接收端使用一个全连接的神经网络,建立SCMA解码器的隐藏层用于信号特征的学习与提取,其中隐藏层激活函数采用relu激活函数,则第l层隐藏层的输出数据表示为:其中,Wl表示第l层的权重,bl表示第l层的偏置,W和b合称参数θ,yl‑1表示第l‑1层隐藏层的输出;
(3c)为防止过拟合,每一层的数据在进行relu激活函数的非线性运算之前先进行批量归一化;
(3d)目标输出为每个用户送入SCMA编码器的单热向量,由于目标输出数据的范围为[0,1],因此输出激活函数选用tanh激活函数,表达式为:其中,z为最后一层隐藏层的输出值,e是自然对数的底数,e=2.71828,yout是SCMA解码器最终的实际输出。
4.根据权利要求1所述的基于降噪自编码器的SCMA编解码器模型的建立方法,其特征在于:所述步骤(4)中的训练基于降噪自编码器的SCMA编解码器模型具体包括以下步骤:(4a)训练时,信道噪声采用固定大小的高斯白噪声作为训练时用的噪声,称作训练噪声,信道噪声的功率的方差为β,β表示为:2
其中,E[|x|]表示传输信号功率,η表示频谱效率,Eb/N0表示比特信噪比;训练时,Eb/N0大小固定为13dB,即β固定,也就是固定大小的训练噪声;
(4b)采用均方误差损失函数作为计算实际输出与期望输出的损失的端到端损失函数,则损失函数的表达式如下:
其中,n为训练神经网络一个批次的大小,θ1和θ2分别为编码器和解码器的参数;y表示神经网络的目标输出,yout表示神经网络的实际输出;
(4c)利用梯度下降算法使得损失函数收敛到最小:每次送入一批输入数据计算损失函数对神经网络参数的偏导数,求得损失函数的梯度,即损失函数下降最快的方向,通过这个方向更新参数,使得损失函数的值越来越小;采用Adam优化器更新神经网络的权重W和偏置b,使得损失函数的值收敛到最小。
5.根据权利要求1所述的基于降噪自编码器的SCMA编解码器模型的建立方法,其特征在于:所述步骤(5)具体包括以下步骤:(5a)随机产生二进制输入数据比特,编码为单热向量,作为SCMA编码器的输入数据;
(5b)计算不同信噪比下基于降噪自编码器的SCMA编解码器的BER性能。