欢迎来到知嘟嘟! 联系电话:13336804447 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13336804447
知嘟嘟经纪人
收藏
专利号: 2022112702635
申请人: 安徽大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2026-11-16
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于傅里叶变换的点击率预测方法,其特征在于:该方法包括下列顺序的步骤:(1)首先将用户浏览的每一条信息所包含的所有属性特征转换成特征嵌入向量,得到特征嵌入向量的组合e;

(2)将特征嵌入向量的组合e输入深度神经网络,深度神经网络包含多层神经网络,每一层神经网络输出一个隐向量,最后一层神经网络输出第一个预测值;

(3)将深度神经网络中输出的每一个隐向量输入到注意力机制模块中得到第二个预测值;

(4)同时,把用户浏览的每一条信息所包含的所有属性特征看成数字信号,直接进行傅里叶变换,去除当中的噪声频率的信号,留下有效信号输入到深度神经网络中处理得到第三个预测值;

(5)最后将第一个预测值、第二个预测值和第三个预测值进行相加,利用激活函数进行处理得到最终的预测值,以此来预测用户是否会点击该条信息;

所述步骤(3)具体是指:在注意力机制模块中,首先将深度神经网络中输出的每一个隐向量作为输入,通过公式(7)得到每一个隐向量注意力分数ai:ai=WiTReLU(Wahi+ba)         (7)其中,为权重矩阵,为权重矩阵,为偏移,da为注意力层维度;hi为深度神经网络中输出的第i个隐向量;

然后通过Softmax函数获得每一个隐向量注意力权重系数:ai′=Softmax(ai)   (8)

接着将每一个隐向量注意力权重系数和每一个隐向量进行运算得到中间向量ha:其中,ha∈Rd,然后将中间向量ha输入到深度神经网络得到第二个预测值yA:yA=WATha+bA        (10)其中,WA∈Rd为权重矩阵,bA∈R为偏移;

所述步骤(4)具体是指:将用户浏览的每一条信息所包含的所有属性特征的看成一个数字信号,这个数字信号中会有噪声信号,通过离散傅里叶变换DFT将时域的信号转换成频域信号:得到频域信号dE为频域信号的维数,然后过滤噪音频率,得到去除掉噪声频率的信号Ef:Ef=WfE          (12)

其中,为权重矩阵,然后通过逆离散傅里叶变换IDFT将频域信号转换为时域信号:得到时域数字信号dh为时域数字信号的维数;

然后通过深度神经网络得到第三个预测值yF:

其中,为傅里叶变换层的权重矩阵,bF∈R为傅里叶变换层的偏移;

所述步骤(5)具体是指:将第一个预测值、第二个预测值和第三个预测值进行相加,输入到激活函数sigmod中得到最终的预测值

2.根据权利要求1所述的基于傅里叶变换的点击率预测方法,其特征在于:所述步骤(1)具体是指:用户浏览的每一条信息包含多个属性特征,将所有的属性特征组合在一起组成一个特征序列,对于这个特征序列中的第i个特征xi∈R,首先将xi转换成独热编码向量vi,其中,ni为第i个特征包含的种类数即第i个特征的独热编码向量的维数,通过式(1)得到第i个特征嵌入向量ei:ei=Wemb,ivi         (1)其中,ei∈Rk,为第i个特征的嵌入矩阵,k为特征嵌入向量的维数;

最后将所有特征嵌入向量串联在一起得到特征嵌入向量的组合e,如下式所示:e={e1,e2,e3...,ei,...}         (2)。

3.根据权利要求1所述的基于傅里叶变换的点击率预测方法,其特征在于:所述步骤(2)具体是指:将特征嵌入向量的组合e作为深度神经网络的输入,深度神经网络包含多层神经网络,每一层神经网络输出一个隐向量,由公式(3)计算得到第一个隐向量h1:h1 =f(W0e+b0)       (3)其中,h1∈Rd,d为输出维数,f(.)为激活函数,为权重矩阵,d0为特征嵌入向量的组合e的维数,b0∈Rd为偏移;

然后通过公式(4)使用残差网络得到第二个隐向量h2:h2=f(W1h1+b1)+h1          (4)其中,h2∈Rd,W1∈Rd×d为权重矩阵,b1∈Rd为偏移;

以此类推,最后通过公式(5)得到最后一个隐向量hl:hl=f(Wl-1hl-1+bl-1)+hl-1        (5)其中,hl∈Rd,其中Wl-1∈Rd×d为权重矩阵;

最后通过深度神经网络输出第一个预测值yH:

其中,WH∈Rd为权重矩阵,bH∈R2为偏移。