ICDE 2022
1 intro
1.1 背景
- 空间(Spatial)和时间(Temporal)信息是序列 POI 推荐中两个重要且相辅相成的因素。
- 空间因素(如地理距离间隔)可以在用户的历史轨迹呈现空间分簇现象时,细粒度刻画 POI 之间在真实世界中的空间邻居程度;
- 时间因素(如时间间隔)可以描述 check-in 之间的相对时间临近程度,并以此来反应用户的个性化行为模式
- 如果一个序列模型在建模时仅考虑 POI 和空间信息,那么下图中的两个用户的轨迹会高度相似:
- 与此同时,对于self-attention来说,由于它是全局注意力,加权平均操作会在一定程度上弱化临近 POI 之间的空间相关性
- 但是在序列 POI 推荐场景中,具有强空间相关性的 POI 对于推荐精度至关重要
- ——>因为较短的地理距离间隔通常会导致更高的连续访问概率
- 论文做了如下的实验:0~10km以内强相关的POI数量
1.2 论文思路
- 针对上述序列中时间间隔表示和序列局部空间信息建模不足的问题,分别提出了两个无需额外参数和高额计算负担的方法
- 时间感知位置编码器(Time Aware Position Encoder,TAPE)
- 间隔感知注意力模块(Interval Aware Attention Block,IAAB)
2 方法
补充一点:
- 嵌入模块以用户u的POI序列Su作为输入,并输出序列表示E ∈ R^n×d
- 其中n是最大序列长度,d是维度。
- 每个签到的表示向量是POI嵌入和GPS坐标编码的连接。
- 考虑到不同用户的序列长度不一致,将较长的序列拆分成若干个长度为n的不重叠子序列。
- 对于较短的序列,反复在序列的头部添加一个“填充”签到,直到长度增加到n。
- 使用零向量对填充签到进行编码,以避免影响梯度更新。