7. Deep Session Interest Network for Click-Through Rate Prediction
在电商的用户行为中，每个会话的行为是相近的，而不同会话间差别较大，如下所示：
这里会话的划分首先将用户的点击行为按照时间排序，判断每两个行为之间的时间间隔，前后的时间间隔大于30min，就进行切分。可以看上图，第一个session中，用户查看的都是跟裤子相关的物品，第二个session中，查看的是戒指相关的物品，第三个则是上衣相关。
基于此，阿里提出了深度会话兴趣网络Deep Session Interest Network，来建模用户这种跟会话密切相关的行为。
就是一个全连接神经网络，其输入的特征的主要分为三部分，用户特征，待推荐物品特征，用户历史行为序列特征。用户特征如性别、城市、用户ID等等，待推荐物品特征包含商家ID、品牌ID等等，用户历史行为序列特征主要是用户最近点击的物品ID序列。
这些特征会通过Embedding层转换为对应的embedding，拼接后输入到多层全连接中，并使用logloss指导模型的训练。
DSIN在全连接层之前，分成了两部分：左边的部分将用户特征和物品特征转换对应的向量表示，主要就是embedding层；右边主要对用户行为序列进行处理，从下至上分为4层：序列切分层(session division layer)，会话兴趣抽取层(session interest extractor layer)，会话间兴趣交互层(session interest interacting layer)，会话兴趣激活层(session interest activating layer)。
Session Division Layer
该层将用户的行为进行切分，首先将用户的点击行为按照时间排序，判断两个行为之间的时间间隔，若间隔大于30min则进行切分。切分后将用户的行为序列转换为会话序列
切分后，用户的行为序列转换成为
，第
个会话
，其中T是会话的长度，
是会话中的第
个行为，是一个
维的embedding向量。则
是
的，
是
的。
Session Interest Extractor Layer
在DSIN中，对序列中每个物品，以及每个物品对应的Embedding的每个位置进行的处理，成为Bias Encoding，它分为三块：
其中是
，和
的形状一样。
是第
个session中，第
个物品嵌入向量的第
个位置的偏置项，也就是说，每个会话、会话中的每个物品有偏置项外，每个物品对应的embedding的每个位置，都加入了偏置项。所以加入偏置项后，Q变为：
随后，是对每个会话中的序列通过Transformer进行处理，经过Transformer处理之后，每个Session是得到的结果仍然是T * d，随后，经过一个avg pooling操作，将每个session兴趣转换成一个d维向量。
这样，就代表第
个session对应的兴趣向量。
Session Interest Interacting Layer
用户的会话兴趣，是有序列关系在里面的，这种关系，通过一个双向LSTM(bi-LSTM)来处理，每个时刻的hidden state计算如下：
相加的两项分别是前向传播和反向传播对应的t时刻的hidden state。这里得到的隐藏层状态Ht，可以认为是混合了上下文信息的会话兴趣。
Session Interest Activating Layer
用户的会话兴趣与目标物品越相近，那么应该赋予更大的权重，这里使用注意力机制来刻画这种相关性：
其中是待推荐物品向量。同样，混合了上下文信息的会话兴趣，也进行同样的处理：
后面的话，就是把四部分的向量：用户特征向量、待推荐物品向量、会话兴趣加权向量、带上下文信息的会话兴趣加权向量
进行横向拼接，输入到全连接层中，得到输出。
8. Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
淘宝的推荐系统总体上也分为匹配和精排阶段，匹配阶段主要是各种embedding方案；精排阶段，主要基于Wide & Deep和深度兴趣网络DIN来构建精排模型，这两种模型都存在一定的问题。
Wide & Deep：使用商品的类别和品牌特征、商品的统计特征、用户画像特征，通过Wide 和Deep两个部分来预测。离散特征使用常用的embedding来降维。这一框架效果还算不错，但是实践中忽略了用户历史的行为序列特征。
DIN：该模型使用注意力机制来捕获目标商品与用户先前行为序列中商品之间的相似性，但未考虑用户行为序列背后的序列性质。
本文尝试将NLP领域中大放异彩的Transformer模型来做推荐任务，其整体的架构如下：
Embedding Layer
所有的other feature分为四个部分，用户特征、商品特征、上下文特征、交叉特征，特征示例如下：
特征通过Embedding Layer来转换为对应的embedding。这里的交叉特征，有部分是基于业务经验提取出的，并非完全通过网络学习得到。
此外，我们还获得了行为序列中每个商品以及目标 商品的嵌入特征。每一个商品通过两部分来表示，“序列 item 特征”（红色部分）和“位置特征”（深蓝色）。其中，“序列 item 特征”包括 item_id 和 category_id。
在 Attention is all you need 论文中，作者提出了一种Positional Encoding来捕获句子中的顺序信息。同样，顺序也存在于用户的行为序列中。因此添加“位置”作为 bottom layer 中每个 item 的输入特征，然后将其投射为低维向量。第i个位置的位置特征计算方式为，其中，
表示推荐的时间戳，
表示用户点击商品
时的时间戳。采用这种方式，其效果优于原论文中使用的
和
函数。
Transformer Layer
Transformer Layer通过捕获行为序列中item与其它item的关系以学习到item的更深层表示。
Self-attention layer:
Scaled Dot-Product Attention
其中代表队列，
代表键，
代表值。
Multi-Head Attention
Point-wise Feed-Forward Networks：
拟合模型的非线性，采用该神经网络
同时为避免过拟合
损失函数仍然采用交叉熵损失：
参考资料
[1] https://www.jianshu.com/p/82ccb10f9ede
[2] https://www.jianshu.com/p/647669169f98
[3] https://mp.weixin.qq.com/s/RLxWevVWHXgX-UcoxDS70w
风吹柳花满店香，吴姬压酒劝客尝。——李白《金陵酒肆留别》
