欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2023101497148
申请人: 湖南大学
专利类型:发明专利
专利状态:未下证
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种抗癌肽生成模型的构建方法,包括生成模块和预测模块两个部分;其中生成模块是序列生成对抗网络SeqGAN,且包括2个具有相同结构的生成器和1个判别器,其特征在于,生成器的结构如下:

第1层为嵌入层,输入大小为20的多肽序列索引向量,输出一个20*32的嵌入矩阵;

第2层为基于门控循环单元GRU的循环神经网络RNN层,在每个时间步,输入为20*32维矩阵,输出1*32的隐藏单元向量,最后输出20个1*32的隐藏单元向量;

第3层为Softmax输出层,输入为1*32的每个时间步的输出的隐藏单元向量,通过线性映射和Softmax激活函数,输出1*20的向量,最后输出20*20的矩阵;

另一个生成器是推出策略需要的生成器,和第一个生成器具有同样的结构;

判别器的结构如下:

第1层为嵌入层,输入20*20的多肽序列独热编码,利用一个20*64的矩阵,输出一个20*64的嵌入矩阵;

第2层为卷积层,输入20*64的嵌入矩阵,其中有2种卷积核,大小分别为2和3,步长为1,数量分别为100个和200个,输出大小分别为19*100和18*200的特征矩阵;

第3层为线性整流函数RELU层,利用RELU非线性激活函数,输入和输出19*100和18*200的特征矩阵;

第4层为池化层,输入19*100和18*200的特征矩阵,利用最大池化选取每个特征向量中的最大值,然后将得到的1*100和1*200的矩阵拼接,输出1*300的多肽序列特征向量;

第5层为Highway层,输入和输出1*300的特征向量;

第6层为丢弃层,输入和输出1*300的特征向量;

第7层为Softmax输出层,输入1*300的特征向量,利用一个300*2的矩阵,通过线性映射和Softmax激活函数,得到1*2的向量,最后经过Argmax函数输出1个数值;

预测模块是基于图神经网络GNN的抗癌肽预测器,其具体结构为:

第1层为嵌入层,输入大小为N的分子指纹向量,输出N*50的嵌入矩阵,其中N是分子指纹的长度,即原子数量;

第2层为GNN层,输入N*50的嵌入矩阵和N*N的邻接矩阵,利用线性映射和ReLU激活函数、特征矩阵更新函数和对每个特征维度的均值求解,输出1*50的向量;

第3、4和5层均为和第2层相同的GNN层,输入和输出也与第2层相同;

第6层为ReLU激活层,将2-5层输出的向量进行连接,以得到1*200的向量,经过线性映射和ReLU激活函数,输出1*800向量;

第7层为全连接层,输入1*800的向量,输出1*2的向量。

2.一种抗癌肽生成模型的训练方法,其特征在于,包括以下步骤:

(1)获取一般多肽序列数据、抗癌肽序列数据和非抗癌肽序列数据,并根据氨基酸词表对一般多肽序列数据、抗癌肽序列数据和非抗癌肽序列数据进行数字编码,以得到一般多肽序列数据集、抗癌肽序列数据集和非抗癌肽序列数据集;

(2)将步骤(1)得到的一般多肽序列数据集、抗癌肽序列数据集和非抗癌肽序列数据集分别按照训练集和测试集8:2的比例进行划分,以得到一般多肽序列训练集和测试集、抗癌肽序列训练集和测试集和非抗癌肽序列训练集和测试集;

(3)将步骤(2)得到的一般多肽序列训练集输入抗癌肽生成模型的生成模块中,并使用反向传播算法对生成模块中每层的权重参数和偏置参数进行更新和优化,以得到预训练好的生成模块;

(4)使用RDKit工具包分别将步骤(1)得到的抗癌肽序列数据和非抗癌肽序列数据中的氨基酸序列格式分别转换成抗癌肽分子图数据和和非抗癌肽分子图数据;

(5)利用一维魏斯菲勒雷曼1-WL算法编码步骤(4)得到的抗癌肽分子图数据和和非抗癌肽分子图数据并设置标签,以得到抗癌肽分子指纹数据和非抗癌肽分子指纹数据,其均用数值向量表示,且分别包含分子指纹和邻接矩阵;

(6)将步骤(5)得到的抗癌肽分子指纹数据和非抗癌肽分子指纹数据按照训练集和测试集8:2的比例进行划分,以得到抗癌肽分子指纹训练集和测试集,非抗癌肽分子指纹训练集和测试集;

(7)将步骤(6)得到的抗癌肽分子指纹训练集和非抗癌肽分子指纹训练集输入到抗癌肽生成模型的预测模块中,并使用反向传播算法对预测模块中每层的权重参数和偏置参数进行更新和优化,以得到更新后的抗癌肽生成模型的预测模块;

(8)将步骤(2)得到的抗癌肽序列训练集输入到步骤(3)得到的抗癌肽生成模型的生成模块中,并使用反向传播算法对抗癌肽生成模型的生成模块中每层的权重参数和偏置参数进行更新和优化,以得到微调好的抗癌肽生成模型的生成模块,从而得到训练好的抗癌肽生成模型。

3.根据权利要求2所述的抗癌肽生成模型的训练方法,其特征在于,步骤(3)包括以下子步骤:(3-1)将步骤(2)得到的一般多肽序列训练集的数值编码向量输入到抗癌肽生成模型中生成模块的生成器的嵌入层,以得到嵌入矩阵x={x1,…,xn},其中n表示多肽序列长度,x1表示在一条多肽序列里第一个氨基酸的嵌入向量,xn表示在一条多肽序列里第n个氨基酸的嵌入向量;

(3-2)将步骤(3-1)得到的嵌入矩阵x={x1,…,xn}输入到生成模块中生成器的基于GRU的RNN层,以得到n个隐藏向量{h1,…,hn};

其中n个隐藏向量{h1,…,hn}是通过按顺序对n个嵌入向量{x1,…,xn}使用更新函数g得到的,在生成n个隐藏向量的过程中,第t个时间步的隐藏向量ht由嵌入向量xt和第t-1个时间步的隐藏向量ht-1决定,其计算公式为:ht=g(xt,ht-1)

其中t∈[1,n],xt是第t个时间步的嵌入向量,ht是第t个时间步的隐藏向量,g为更新函数;

(3-3)将步骤(3-2)得到的n个隐藏向量{h1,…,hn}输入到生成模块中生成器的Softmax层,以得到生成多肽序列,其包括n个时间步的生成器输出令牌;

其中每个时间步的生成器输出令牌的计算方式为:

yt=softmax(Wht+b)

其中t∈[1,n],W是权重矩阵,b是偏置向量,ht是第t个时间步的隐藏向量,yt表示第t个时间步的生成器输出令牌,softmax()表示sofmtax激活函数;

(3-4)使用步骤(3-3)得到的生成多肽序列与步骤(2)得到的一般多肽序列训练集的交叉熵损失对生成模块的生成器进行梯度更新,并对更新后的生成器进行迭代训练,直到损失函数最小为止,从而得到预训练好的生成模块的生成器Gθ;

其中第t个时间步的交叉熵损失的计算方式为:

其中,yt是第t个时间步的生成器输出令牌,是训练集中多肽序列第t个位置的令牌,Lt是第t个时间步的交叉熵损失;

(3-5)利用步骤(3-4)得到的生成模块的生成器采样到固定长度的多肽序列;

(3-6)将步骤(2)得到的一般多肽序列训练集和步骤(3-5)得到的多肽序列依次输入到生成模块中判别器的嵌入层、卷积层、RELU层、池化层、Highway层和丢弃层,以得到特征矩阵;

(3-7)将步骤(3-6)得到的特征矩阵输入到生成模块中判别器的Softmax层,以得到判别分数;

(3-8)利用步骤(3-7)得到的判别分数的交叉熵损失对生成模块的判别器进行梯度更新,并对更新后的判别器进行迭代训练,直到损失函数最小为止,从而得到预训练好的生成模块的判别器D;

其中判别器的损失计算方式如下:

其中,yi是一般多肽序列训练集中的第i个多肽序列,是生成的多肽序列集中的一个多肽序列,D()是判别器D的判别分数,BCE()表示计算判别分数和真实标签0或1的交叉熵,N表示一般多肽序列训练集中多肽序列的数量,LD是判别器损失;

(3-9)将步骤(3-4)得到的生成模块的生成器Gθ作为Roll-out生成器Gβ使用;

(3-10)利用步骤(3-4)得到的生成模块的生成器Gθ生成多肽序列段,利用步骤(3-9)得到的Roll-out生成器Gβ对多肽序列段生成后续的令牌,以得到完整多肽序列,并将生成的完整多肽序列输入到步骤(3-8)得到的生成模块的判别器D,以得到生成的完整多肽序列的序列奖励;

(3-11)根据步骤(3-10)得到的生成的完整多肽序列的序列奖励获取期望奖励,通过最大化该期望奖励对步骤(3-4)得到的生成器Gθ的参数进行梯度更新,以得到更新后的生成模块的生成器Gθ;

(3-12)利用步骤(3-11)更新后的生成模块的生成器Gθ进行采样,以得到多个多肽序列样本;

(3-13)将步骤(2)得到的一般多肽序列训练集和步骤(3-12)采样的多肽序列样本输入到步骤(3-8)得到的生成模块的判别器,并重复执行一次步骤(3-6)-(3-8),以得到更新的生成模块判别器;

(3-14)将步骤(3-11)得到的生成模块的生成器Gθ作为Roll-out生成器Gβ使用,利用步骤(3-11)得到的生成模块的生成器Gθ生成多肽序列段,利用Roll-out生成器Gβ对多肽序列段生成后续的令牌,以得到完整多肽序列,并将生成的完整多肽序列输入到步骤(3-13)得到的生成模块的判别器D,以得到生成的完整多肽序列的序列奖励;

(3-15)根据步骤(3-15)得到的生成的完整多肽序列的序列奖励获取期望奖励,通过最大化该期望奖励对步骤(3-11)得到的生成器Gθ的参数进行梯度更新,以得到更新后的生成模块的生成器Gθ;

(3-16)重复执行步骤(3-12)至步骤(3-15),直到生成模块中的生成器和判别器收敛为止,从而得到预训练好的抗癌肽生成模型的生成模块。

4.根据权利要求3所述的抗癌肽生成模型的训练方法,其特征在于,

最大化期望奖励的计算方式如下:

其中,J()为目标函数,是期望,θ是生成模块的生成器Gθ的参数,Gθ(st|S1:t-1)生成一个多肽序列段,是序列奖励,S是Gθ生成的多肽序列;希望得到生成模型的参数θ,使得生成模型能在S1:t-1处做出最佳选择,以在生成第T个多肽序列时获得大回报RT;

序列奖励的计算方式如下:

其中,st是Gθ生成的第t个令牌,T表示完整多肽序列的长度,S1:t是生成器Gθ生成的第t个多肽序列段,表示在Gθ生成多肽序列段S1:t时,利用蒙特卡洛采样,在多肽序列段的基础上,利用Roll-out生成器Gβ生成N个长度为T的完整多肽序列;t

利用梯度上升,生成模块的生成器Gθ目标函数的梯度即梯度更新计算方式如下:其中,α是学习率,T是完整多肽序列的长度,S1:t-1是生成模块的生成器Gθ生成的第t-1个多肽序列段,是序列奖励,为期望,近似为蒙特卡洛采样方法,表示对生成器Gθ求导,是目标函数梯度。

5.根据权利要求2至4中任意一项所述的抗癌肽生成模型的训练方法,其特征在于,节点标签和边标签的计算方式如下:其中,表示在第t次迭代更新节点v的标签,表示在第t-1次迭代更新节点u的标签,表示在第t次迭代更新节点u和v之间的边的标签,N(v)表示节点v的邻居节点集合,HASH()表示运用哈希单射函数将公式中得到的所有数据组映射成独一无二的整数。

6.根据权利要求5所述的抗癌肽生成模型的训练方法,其特征在于,步骤(7)包括以下子步骤:(7-1)将步骤(6)得到的抗癌肽分子指纹训练集和非抗癌肽分子指纹训练集输入到预测模块的嵌入层,以得到分子指纹的嵌入矩阵H;

(7-2)将步骤(7-1)得到的嵌入矩阵H和相应的邻接矩阵A输入到预测模块的GNN层,以得到特征向量;

(7-3)将步骤(7-2)得到的i个特征向量拼接起来,输入到relu线性层和全连接层,再经过Softmax层,以得到预测向量;

(7-4)将步骤(7-3)得到的预测向量和相应的步骤(5)得到数据标签的交叉熵损失来进行梯度更新,对更新的预测模块进行迭代训练,直到损失函数最小为止,从而得到预训练好的抗癌肽生成模型的预测模块。

7.根据权利要求6所述的抗癌肽生成模型的训练方法,其特征在于,步骤(7-2)中,经过i层GNN层的特征向量Hi的更新公式如下:Hi=Hi-1+A·relu(WGNNHi-1)

其中,i为第i个GNN层,relu(Rectified Linear Unit)是一个非线性激活函数;WGNN为GNN层的权重矩阵,A是特征向量相应的邻居矩阵;

在每个GNN层中,输出为所有特征向量的在n个特征维度的每个相同维度上的均值,计算方式如下:其中表示第i个GNN层中特征向量的第k个原子的数值表示,n是维度特征数,Hi表示在第i个GNN层的特征向量。

8.根据权利要求7所述的抗癌肽生成模型的训练方法,其特征在于,步骤(8)包括以下子步骤:(8-1)将步骤(2)得到的抗癌肽序列训练集的数值编码向量输入到抗癌肽生成模型中生成模块的生成器的嵌入层,以得到嵌入矩阵x={x1,…,xn},其中n表示多肽序列长度,x1表示在一条多肽序列里第一个氨基酸的嵌入向量,xn表示在一条多肽序列里第n个氨基酸的嵌入向量;

(8-2)将步骤(8-1)得到的嵌入矩阵x={x1,…,xn}输入到生成模块中生成器的基于GRU的RNN层,以得到n个隐藏向量{h1,…,hn};

(8-3)将步骤(8-2)得到的n个隐藏向量{h1,…,hn}输入到生成模块中生成器的Softmax层,以得到生成多肽序列,其包括n个时间步的生成器输出令牌;

(8-4)对步骤(8-3)得到的生成多肽序列与步骤(2)得到的抗癌肽序列训练集的交叉熵损失对生成模块的生成器进行梯度更新,并对更新后的生成器进行迭代训练,直到损失函数最小为止,从而得到预训练好的生成模块的生成器Gθ;

(8-5)利用步骤(8-4)得到的生成模块的生成器采样到固定长度的多肽序列;

(8-6)将步骤(2)得到的抗癌肽序列训练集和步骤(8-5)得到的多肽序列依次输入到生成模块中判别器的嵌入层、卷积层、RELU层、池化层、Highway层和丢弃层,以得到特征矩阵;

(8-7)将步骤(8-6)得到的特征矩阵输入到生成模块中判别器的Softmax层,以得到判别分数;

(8-8)利用步骤(8-7)得到的判别分数的交叉熵损失对生成模块的判别器进行梯度更新,并对更新后的判别器进行迭代训练,直到损失函数最小为止,从而得到预训练好的生成模块的判别器D;

(8-9)将步骤(8-4)得到的生成模块的生成器Gθ同时作为Roll-out生成器Gβ使用;

(8-10)利用步骤(8-4)得到的生成模块的生成器Gθ生成多肽序列段,利用步骤(8-9)得到的Roll-out生成器Gβ对生成的多肽序列段生成后续的令牌,以得到完整的多肽序列,并将生成的完整多肽序列输入到步骤(8-8)得到的生成模块的判别器D,以得到生成的完整多肽序列的序列奖励;

(8-11)针对步骤(8-10)得到的完整的多肽序列而言,通过上述步骤(4)和(5)的计算方法得到该多肽序列对应的分子指纹,然后将分子指纹输入到步骤(7)得到的预测模块,以得到生成的完整多肽序列数据的结构奖励;

(8-12)将步骤(8-10)得到的完整多肽序列的序列奖励和步骤(8-11)得到的完整多肽序列的结构奖励进行线性组合,以获取线性组合奖励,通过最大化期望线性组合奖励对步骤(8-4)得到的生成器Gθ的参数进行梯度更新,以得到更新后的生成模块的生成器Gθ;

(8-13)利用步骤(8-12)更新后的生成模型的生成器和步骤(8-8)更新后的生成模型的判别器重复执行执行步骤(8-5)至步骤(8-12),直到生成模块收敛为止,从而得到训练好的抗癌肽生成模型。

9.根据权利要求8所述的抗癌肽生成模型的训练方法,其特征在于,步骤(8-12)中,线性组合奖励的计算方式如下:

其中,st是Gθ生成的第t个令牌,S1:t-1是Gθ生成的第t-1个多肽序列段,是完整多肽序列的序列奖励,是完整多肽序列的分子指纹的结构奖励,FP(S1:t-1,st)表示完整多肽序列的分子指纹形式,μ是小于1的混合常数;

利用梯度上升,Gθ目标函数的梯度和梯度更新计算方式如下:

其中,θ是生成器Gθ的参数,T是完整多肽序列的长度,α是学习率,st是Gθ生成的第t个令牌,S1:t-1是Gθ生成的第t-1个多肽序列段,Gθ(st|S1:t-1)生成一个多肽序列段,是线性组合奖励,为期望,近似为蒙特卡洛采样方法,表示对生成器Gθ求导,是目标函数梯度。