1.一种基于变异受限玻尔兹曼机的去噪音频特征提取方法,其特征在于:具体步骤如下:(1)音频信号采集:采集音频信号,获得音频样本;
(2)信号预处理:将采集的音频信号进行分组,分别为训练组和测试组;
(3)受限去噪玻尔兹曼机模型的搭建:利用受限玻尔兹曼机构建受限去噪玻尔兹曼机模型,在受限去噪玻尔兹曼机模型的权值阈值求解过程中引入变异算子获得变异的受限玻尔兹曼机模型即受限去噪玻尔兹曼机模型,模型分为可视层、隐含层以及标签层;
所述受限去噪玻尔兹曼机模型的搭建包括以下步骤:
①模型搭建首先定义T为隐含层低维空间,F为特征维数,C为混合高斯数,高斯超向量是由高斯的均值向量与总体差异构成,对于一段音频信号可由如下高斯超向量表示:N=x+Tw
其中x表示与说话人和信道无关的音频超向量,由通用背景模型的高斯均值向量构成,为整个高斯超向量空间的中心;T为低维空间CF×R的载荷矩阵即总体差异空间,R为总体差异因子个数;w为服从标准正态分布的随机向量即总体差异因子;对于超向量N其均值为x,T协方差为TT,T和w可通过期望最大化得到估计值;
②将受限玻尔兹曼机模型看做是一种能量模型并用概率测度进行求解,其可视层与隐含层之间的系统能量函数定义为如下表达式:T T T
E(v,h)=‑vWh‑bv‑ah
其中v可视层即高斯超向量N;h为隐含层即低维特征向量;W为层间权值;b为正向网络阈值;a为反向网络阈值,基于受限玻尔兹曼机模型的能量函数进一步定义可视层与隐含层直接的联合概率分布:其中Z为归一化因子又称分配函数,其表达式如下:
在深度神经网络的训练过程中,可见层单元服从贝努力分布或者高斯分布,隐含层单元服从贝努力分布,由于受限玻尔兹曼机模型层内无连接,层间全连接使得给定可见层单元状态时,其隐含层的激活状态是相互独立的,隐含层单元的激活概率定义为:其中i为输入层神经元单元,j为隐含层神经元,δ(x)为归一化函数:因为受限玻尔兹曼机模型的结构是对称的,所以可视层单元的激活函数定义定为:可见层与隐含层的联合概率p(v,h)无法直接计算,通过对比散度法进行近似求解;
③对比散度算法即使用初始化训练数据,首先将可见层单元的状态设置成一个训练样本M,并利用如下公式计算隐藏层单元Y:在所有隐藏单元状态确定之后,根据如下公式来确定可见层的一个重构M′:然后将重构的可见层作为真实的模型带入受限玻尔兹曼机模型中得到Y′:将M与Y做乘积得到矩阵Z,将M′与Y′做乘积得到矩阵Z′,两个矩阵的行为输入层即可视层的单元数目,列为隐含层的单元数目,进行梯度下降计算:基于求得的梯度,进一步受限玻尔兹曼机模型的权值阈值更新为:k+1 k
W =W+λ(Z‑Z′)
k+1 k
b =b+λ(Y‑Y′)
k+1 k
a =a+λ(M‑M′)
其中λ为自适应学习率,根据训练样本M与训练集的期望M′之间的差值进行权值阈值的迭代直到其误差值小于预设值,从而通过训练获得所需要的受限玻尔兹曼机模型;
④权值阈值迭代求解过程中,引入变异算子即随机接受较差解算法,定义控制算子参量为D,其迭代过程中满足如下公式:k+1 k
D =α×D
其中α为[0,1]区间内非常接近于1的数;k为迭代次数;D值设置越大容许迭代次数越多花费的时间也就越多,D当迭代到预设停止迭代数值或者D的预设最小值停止值时停止迭代;
定义训练样本M与训练集的期望M′之间的差值第一次为ε1和第二次为ε2,其变异算子定义为:上述公式两次迭代求解权值阈值并计算两次模型值与训练集的期望之间的差值,若第二次的模型值与训练集的期望之间的差值比第一次模型值与训练集的期望之间的差值小,则说明该次权值阈值求解有效,若第二次的差值比第一次的差值大并不放弃此次的求解值,而是以一定的概率接受该次所求解的权值阈值;
(4)受限去噪玻尔兹曼机模型训练:首先利用音频特征出现的概率总大于噪声特征出现的概率将变异受限玻尔兹曼机模型的隐含层分成两组,得到混合结构的受限去噪玻尔兹曼机模型,然后以混合结构的受限去噪玻尔兹曼机模型对训练组的高斯超向量的音频特征和噪声特征进行分别建模和训练以获得去噪音频特征信号;
(5)音频特征信号的对比检验:将测试组送入搭建好的受限去噪玻尔兹曼机模型中,将训练组所获得的特征值与本次测试数据所获得的特征值进行相似度计算进而判断特征提取与聚类结果的准确性。
2.根据权利要求1所述的基于变异受限玻尔兹曼机的去噪音频特征提取方法,其特征在于:所述音频信号采集时需要设置好声道模式、采样频率以及量化间隔,其中采样频率应满足奈奎斯特采样定理,即采样频率应大于等于2倍采样信号的最高频率,获取得到为数字信号x(n)。
3.根据权利要求1所述的基于变异受限玻尔兹曼机的去噪音频特征提取方法,其特征在于:所述信号预处理将采集好的音频信号进行读取出并进行分组,分为训练组x1和测试组x2,训练组用于训练模型参数,测试组用于检验训练出的模型结果。
4.根据权利要求1所述的基于变异受限玻尔兹曼机的去噪音频特征提取方法,其特征在于:所述受限去噪玻尔兹曼机模型训练包括以下步骤:首先将建立的受限去噪玻尔兹曼机模型的隐含层分成两组,并用归一化函数δ(x)对隐含层单元的聚类分组,根据下式的阈值函数实现对隐含层单元通过对接入权值进行标注:其中ykj为第k个样本,第j个隐含层对应的激活值,Wk为受限玻尔兹曼机模型的权值,mj是样本标签信息,w和 为隐含层单元的激活状态值和非激活时状态值,根据上述的阈值函数将隐含层分为音频特征组和噪声组。
5.根据权利要求1所述的基于变异受限玻尔兹曼机的去噪音频特征提取方法,其特征在于:所述音频特征信号的对比检验采用余弦相似度作为去噪音频特征之间的度量,其计算公式如下:其中y1和y2分别表示训练和测试组的音频特征,||.||表示L2范数,其计算值越大说明其两个特征之间相关性越大,反之则说明相关性越小。