1.一种基于图胶囊网络的短视频点击率预测方法,其特征在于:融合短视频多模态特征,生成短视频向量表征;对于当前用户的点击行为序列X=[x1,…,xn],xj由短视频的封面特征 和文本特征 两种模态构成,如下:其中,CONCAT方法表示将两种模态的向量直接连接生成新的向量, 是短视频的封面图特征向量, 是短视频的文本特征向量,短视频特征向量xj的长度为d;
根据所有用户的历史点击行为序列,构建短视频图网络T;
根据短视频图网络T,生成短视频多层向量表征 令:其中,k代表在短视频图网络T中的搜索深度,k的最大深度由搜索深度参数L控制, 代表节点xj在k层的向量表征;B(j)为短视频图网络T中短视频xj的邻居集合,按照图T边由大到小排序采样sampling获得;非线性函数f表示将节点xj的邻居节点信息融合到节点xj中;
根据短视频的多层向量表征 采用改进的胶囊网络生成用户兴趣表征其中,k表示深度, 是当前用户行为序列X=[x1,…,xn]的第j个短视频胶囊到兴趣胶囊i的转换矩阵,不同深度k下的空间转换矩阵Wj,i相同,且兴趣胶囊i的个数是M;g是胶囊网络中常用的squash激活函数;用户兴趣表征 的向量长度为d; 是连接系数,代表 的权重, 参数采用添加了温度系数和改变了归一化方式的动态路由算法更新:
其中,k表示深度,参数 是深度k下的输入胶囊j到输出胶囊i的连接系数且初始化为+
0;τ是温度系数,当τ→0 ,输出兴趣胶囊趋向于只关注一个输入胶囊,而当τ→∞,输入胶囊对于输出兴趣胶囊的作用趋于一致;本方法改动之处有两点:第一点是增加温度系数,第二点是更改原先动态路由算法的归一化normalization方式;
根据用户兴趣表征 预测用户对目标短视频的点击率:其中, 为用户的第k层的第i个兴趣表征,xnew为目标短视频向量表征;参数 和参数 控制每个兴趣表征的权重,d既是短视频特征向量的长度又是用户兴趣表征的长度,参数c是偏置参数; 和 是转移矩阵, 是偏置向量,b2是偏置标量;σ是sigmoid激活函数;
根据模型特性,设计损失函数;通过用户对目标短视频的点击率预测值 计算预测值和真实值y之间的误差,进而使用误差来更新模型参数;最后采用交叉熵损失函数来指导模型参数的更新过程:
其中,y∈{0,1}是真实值,代表用户是否点击了目标短视频;σ是sigmoid函数;最后采用Adam优化器更新模型参数。
2.根据权利要求1所述的一种基于图胶囊网络的短视频点击率预测方法,其特征在于:所述短视频图网络T构造方法为:
τ τ τ τ
给定一个用户u历史点击行为序列X=[x1,…,xl],l是用户u的行为序列X的长度,任一短视频xj为图T的节点,(xj‑1,xj)为图网络T的边,(xj‑1,xj)表示一个用户点击短视频xj‑1后点击短视频xj;图的边数值属性为边(xj‑1,xj)出现的次数;最后为了降低在线计算复杂度,采用离线文件存储每个节点在短视频图网络T中的邻居节点。
3.根据权利要求1所述的一种基于图胶囊网络的短视频点击率预测方法,其特征在于:所述将节点xj的邻居节点信息融合到节点xj中的非线性函数f为:k
其中,B(j)为短视频图网络T中短视频xj的邻居集合,W 是图参数,σ为sigmoid函数,CONCAT表示向量连接操作;AGGREGATE函数采用的最大池化max‑pooling方法:其中,B(j)为短视频图网络T中短视频xj的邻居集合,Wpoo1是网络参数,b是偏置向量bias vector,σ为sigmoid函数;max代表元素级别的max操作,可以有效捕捉邻居的各个方面属性。