知识卡片
LTV的CNN-LSTM嵌套
为同时处理周内交易序列和跨周变化,网络分里外两层:内层用一维卷积提取局部模式,再经LSTM压成每周向量;外层以TimeDistributed复用相同的内层模型,用双向LSTM聚合各周,接全连接层输出对数价值预测。这是多时间尺度编码的一种设计,并非[[LTV计算方法的五级演进]]中无条件最强的模型。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第3章 洞察用户长期价值: 基于神经网络的LTV建模 3.2 基于Keras的LTV模型实践 · 查看原书依据
整个模型由里外两层构成,我们先构造内部模型。 Input层用来引入输入数据,这里输入的数据是(batch, outerlength, innerlength, featurelength)。其中第一个维度batch在Keras中默认不需要指定。对于其他3个维度,内部模型需要处理的是后两个,所以这里指定的输入数据形态是(leninner,len_fea)(这里内部变量名使用了缩写,以示区分),数据类型为float32。 然后构造卷积层cnn1d。这个层被初始化为输入层inner_input,之后添加两层卷积,卷积核的个数分别为64和32,kernel_size均为2,padding方式采用valid,激活函数为relu,步长为1。这一切可以用Keras的Conv1D来完成。两层卷积使得我们可以抽象出不同层次的序列特征。这里,我们在第一层再加上一个dropout操作,参数取0.1,即在训练时随机丢弃1/10的层内结点,以防止模型过拟合。 CNN抽取的特征是偏局部的。因此,输出向量的头部仍对应输入向量的头部,输出向量的尾部对应输入向量的尾部。LSTM非常适合进行这种时间序列信息的提取,因此我们后面续接两个LSTM层,结点个数分别为32和16。同样,对第一层LSTM,dropout取0.1,recurrent_dropout也取0.1。recurrent_dropout也是一种dropout,指的是递归结点之间的连接,用于对递归连接进行正则化处理。 这里有个需要注意的地方:第一层LSTM的return_sequences参数设为True,但第二层则设为False。因为我们希望第一层继续返回一个时间序列类型的数据,而第二层只需要最后提取成一个向量。经过适当处理后的向量就是我们内部模型的output。把输入为inner_input、输出为inner_output的部分用Model模块连