1.基于时序物品相似度的序列推荐方法,其特征在于,包括以下步骤:步骤一、根据以下描述建立神经网络模型:
1.1)以长度为L的用户历史序列中,用户点击各物品的时间信息ti组成的时间序列T={t1;t2;...;tL}作为输入,构建基于时间信息的嵌入向量;
Day Pos
1.2)包含与绝对时间相关的嵌入向量E 和E 中的至少一个,如果仅仅构建一个嵌入Abs Day Pos向量,则以该向量作为绝对嵌入向量E ;如果构建两个嵌入向量,则以E 和E 结合生成Abs绝对嵌入向量E ;
Day
所述嵌入向量E ,通过以下方式获得:D |D|×d
1.2.1)定义可以学习的嵌入向量M∈R ,其中|D|是以天作为测量单元的时间间隔,其值为用户序列中最早点击的物品的点击时间到最晚点击的物品的点击时间之间的时间间隔加上一天,有:D 0 1 i |D|‑2 |D|‑1M={day,dat,...,day,...,day ,day },i
其中,day表示距离最早点击物品的点击时间为i天的天数时间嵌入向量,维度为d;
1.2.2)从时间序列 中提取以天作为测量单元的时间信息映射到D |D|×d
M∈R 中,得到
Pos |L|×d
所述嵌入向量E ∈R ,为基于历史序列中每个物品的索引信息的嵌入向量;
Exp Log Sin
1.3)包含与相对时间相关的嵌入向量E 、E 、E 中的至少一个,如果仅仅构建一个Rel嵌入向量,则以该向量作为相对嵌入向量E ;如果构建两个嵌入向量,则以该两个嵌入向Rel量结合生成相对嵌入向量E ;如果构建三个嵌入向量,则先以任意两个嵌入向量进行结Rel合,得到的结果再与第三个嵌入向量结合,得到最后的相对嵌入向量E ;
Exp Log Sin
所述嵌入向量E 、E 及E 的构建方式如下:
1.3.1)定义时间差矩阵 其中的每个元素被定义为 其中τ是一个可供调节的时间差;
Sin
1.3.2)在嵌入向量E 中,时间差dab被转化为向量 转换的方法如下:其中 是向量 的第c个值,d表示嵌入向量的维度,freq是一个设置的超参数;
Exp
1.3.3)在嵌入向量E 中,时间差dab被转化为 转换的方法如下:其中 是向量 的第c个值,d表示嵌入向量的维度,freq是一个设置的超参数;
Log
1.3.4)在嵌入向量E 中,时间差dab被转化为 转换的方法如下:其中 是向量 的第c个值,d表示嵌入向量的维度,freq是一个设置的超参数;
Abs
1.4)以用户历史序列中的物品生成物品嵌入向量 将E与E 相加得到的结果X(0) Rel输入自注意力机制学习模块,结合相对嵌入向量E 获得当前历史序列的局部特征X;
1.5)以各用户历史序列共同输入全局偏好学习模块,获得所有历史序列的全局特征Y;
1.6)依据当前候选物品和最近交互物品的相似度计算结果,对局部特征X与全局特征Y进行加权求和,得到用于预测的特征表示zl,并以此为依据进行序列中的下一物品的推荐;
步骤二、对建立的神经网络模型实施训练;
步骤三、利用训练好的神经网络模型进行物品序列推荐。
Day Pos
2.根据权利要求1所述的方法,其特征在于,以嵌入向量E 和E 结合生成绝对嵌入向量 的方式如下:Day Pos
α=σ([E ,E ]Wday_pos+bday_pos),其中,[.,.]表示外部的连接操作,Wday_pos为可学习的权重向量,bday_pos为该部分的偏‑z置,为sigmoid激活函数σ(z)=1/(1+e ), 表示元素积,αs为向量α中的元素,asl为嵌入向Abs Day Pos量E 中的元素,psl为嵌入向量E 中的元素,dsl为嵌入向量E 中的元素。
Exp Log Si
3.根据权利要求1所述的方法,其特征在于,结合嵌入向量E 、E 、E n得到相对嵌入Rel向量E 的过程如下:
Exp Log Exp_Log首先按照以下方式将嵌入向量E 和嵌入向量E 结合为嵌入向量E :Exp Log
β=σ([E ,E ]Wexp_log+bexp_log),其中 为该部分的可学习的权重向量, 为该部分的偏置, 表示元素积,βs为向量β中的元素,e_lsl为嵌入向Exp_Log Exp Log量E 中的元素,esl为嵌入向量E 中的元素,lsl为嵌入向量E 中的元素;
Exp_Log Sin Rel再将嵌入向量E 与E 按照以下方式结合为嵌入向量E :Exp_Log Sin
γ=σ([E ,E ]Wsin_log_exp+bsin_log_exp)其中, 为该部分可学习的权重向量, 为该部分的偏置, 表示元素积,γs为向量γ中的元素,rsl为相Rel Sin Exp_Log对嵌入向量E 中的元素,ssl为嵌入向量E 中的元素,e_lsl为嵌入向量E 中的元素。
4.根据权利要求1所述的方法,其特征在于,所述自注意力机制学习模块包括依次连接的多个自注意力块SAB,第b个自注意力块的输出如下:(b) (b) (b‑1)
X =SAB (X ,b∈{1,2,...,B}SAB(X)=FFL(SAL(X))T T
FFL(X′)=ReL U(X′W1+1b1)W2+1b2其中,每个自注意力块SAB皆对应一自注意力层SAL,Q=XWQ,K=XWK,V=XWV,和 为不同的可学习的权重矩阵, 为前馈神经网络层FFL中的两个卷积层的可学习的权重矩阵, 则是这两个卷积层的偏置, 表示单位向量, 为一个被用作掩码的低维度矩阵;
(B) (B)
以最后一个自注意力块SAB 的输出向量X 作为局部特征X。
5.根据权利要求4所述的方法,其特征在于,在自注意力机制学习模块加入标准化层对输入数据进行标准化,以及使用Dropout机制和残差连接;
所述标准化层、Dropout机制和残差连接的用法表达如下:g(x)=x+Dropout(g(LayerNorm(x))),其中,LayerNorm(x)表示归一化层,g(x)表示自注意力层SAL或者前馈网络层FFL。
6.根据权利要求1所述的方法,其特征在于,全局偏好学习模块中利用注意力层LBA(·)计算全局特征Y,过程如下:S T
y=LBA(E)=softmax(q(EW′K))EW′V,其中, 是输入的物品嵌入向量, 为可学习的权重矩阵,为可学习的询问向量, 为表示全局的偏好全局特征向量;
全局特征 由全局特征向量y堆叠而成的,即矩阵Y的每一行都相同。
7.根据权利要求1所述的方法,其特征在于,所述局部特征X与全局特征Y按照以下方式加权求和得到用于预测的特征表示zl:θ=σ([msl,y,mi]WG+bG),其中,xl为局部特征X中的元素, 是最近交互的物品嵌入向量, 是候选物品嵌入向量,msl,mi都为物品嵌入向量E中的元素, 和 分别表示此处的可学习的权重矩阵和偏置。
8.根据权利要求1所述的方法,其特征在于,计算物品i成为序列中的第(l+1)个物品的可能性计算值r1+1,i如下:T
rl+1,i=zl(mi) ,取r1+1,i最大的物品i作为推荐结果。