别再只盯着Transformer了！用Python复现DSIN模型，带你亲手验证它的Session划分到底有没有用

用Python实战拆解DSIN模型：验证Session划分在推荐系统中的真实价值

当我们在淘宝浏览商品时，系统会记录下每一次点击、停留和购买行为。但你是否想过，这些行为背后隐藏着怎样的时间模式？阿里团队在2019年提出的DSIN模型(Deep Session Interest Network)给出了一个有趣的视角——将用户行为按时间间隔划分为不同的Session。本文将带你用Python从零实现DSIN的核心思想，通过实验验证Session划分是否真的能提升推荐效果。

1. 理解Session划分的本质

在推荐系统领域，用户行为序列通常被当作一个连续的整体来处理。但DSIN提出了一个反直觉的观点：用户行为天然具有时间分段特性。想象一下你上周六的购物经历：

• 上午10:00-10:30：浏览手机和配件
• 下午15:00-15:45：查看运动鞋和服装
• 晚上20:00-20:20：选购零食

这三次购物虽然发生在同一天，但明显属于不同的兴趣Session。DSIN的核心假设是：同一Session内的行为具有高度相关性，而不同Session间可能存在兴趣跃迁。

1.1 Session划分的数学表达

用代码表示Session划分非常简单。假设我们有以下用户行为数据：

user_actions = [ {'item_id': 'phone1', 'timestamp': '2023-06-10 10:05:00'}, {'item_id': 'case1', 'timestamp': '2023-06-10 10:12:00'}, {'item_id': 'earbuds', 'timestamp': '2023-06-10 10:28:00'}, {'item_id': 'shoes', 'timestamp': '2023-06-10 15:10:00'}, {'item_id': 'shirt', 'timestamp': '2023-06-10 15:30:00'}, {'item_id': 'chips', 'timestamp': '2023-06-10 20:05:00'} ]

划分Session的关键参数是时间阈值（通常为30分钟）：

def split_sessions(actions, time_threshold=30): sessions = [] current_session = [actions[0]] for i in range(1, len(actions)): prev_time = datetime.strptime(actions[i-1]['timestamp'], '%Y-%m-%d %H:%M:%S') curr_time = datetime.strptime(actions[i]['timestamp'], '%Y-%m-%d %H:%M:%S') delta = (curr_time - prev_time).total_seconds() / 60 if delta <= time_threshold: current_session.append(actions[i]) else: sessions.append(current_session) current_session = [actions[i]] if current_session: sessions.append(current_session) return sessions

1.2 Session划分的合理性验证

为了验证Session划分是否合理，我们可以从两个维度分析：

1. Session内相似度：计算同一Session内物品embedding的余弦相似度均值
2. Session间差异度：比较相邻Session间物品embedding的相似度

实验数据显示：

这种差异表明Session划分确实捕捉到了用户兴趣的自然分段。

2. 构建简化版DSIN模型

原版DSIN模型结构复杂，包含多层Transformer和双向LSTM。为聚焦Session划分的核心价值，我们实现一个简化版本，只保留最关键的三个组件：

1. Session划分层：将用户行为序列切分为多个Session
2. Session兴趣提取层：使用注意力机制提取每个Session的兴趣表示
3. 兴趣激活层：计算目标物品与各Session兴趣的相关性

2.1 模型架构实现

使用PyTorch构建模型核心结构：

import torch import torch.nn as nn class SimplifiedDSIN(nn.Module): def __init__(self, item_embed_dim, hidden_dim): super().__init__() self.item_embed = nn.Embedding(num_embeddings=10000, embedding_dim=item_embed_dim) self.session_attention = nn.MultiheadAttention(embed_dim=item_embed_dim, num_heads=2) self.fc = nn.Linear(item_embed_dim * 2, 1) # 二分类输出 def forward(self, sessions, target_item): # sessions: [batch_size, num_sessions, session_length] # target_item: [batch_size] batch_size = sessions.shape[0] target_embed = self.item_embed(target_item) # [batch_size, embed_dim] session_embeddings = [] for i in range(batch_size): session_embed = self.item_embed(sessions[i]) # [num_sessions, session_length, embed_dim] # Session兴趣提取 session_interest, _ = self.session_attention( session_embed.mean(dim=1), # 使用平均作为query session_embed, session_embed ) # [num_sessions, embed_dim] # 兴趣激活 attn_scores = torch.matmul(session_interest, target_embed[i].unsqueeze(1)).squeeze() attn_weights = torch.softmax(attn_scores, dim=0) weighted_interest = (session_interest * attn_weights.unsqueeze(1)).sum(dim=0) session_embeddings.append(weighted_interest) session_embeddings = torch.stack(session_embeddings) # [batch_size, embed_dim] combined = torch.cat([session_embeddings, target_embed], dim=1) output = torch.sigmoid(self.fc(combined)) return output

2.2 关键组件解析

Session兴趣提取层的核心是注意力机制，它能够：

• 识别Session内的重要行为
• 过滤掉噪声点击
• 生成紧凑的Session表示

下表对比了不同Session表示方法的优劣：

兴趣激活层模拟了DIN模型中的注意力机制，其计算公式为：

$$ \text{Attention}(Q,K,V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V $$

其中：

• $Q$ 是目标物品embedding
• $K$ 是Session兴趣表示
• $V$ 同样是Session兴趣表示
• $d_k$ 是embedding维度

3. 实验设计与效果验证

为了验证Session划分的实际价值，我们设计了两组对比实验：

1. 基准模型：不考虑Session划分，直接将所有用户行为作为单一序列处理
2. DSIN简化版：按30分钟间隔划分Session

3.1 数据集准备

使用Amazon Electronics数据集进行实验，处理流程包括：

# 数据预处理示例 def prepare_data(): # 1. 加载原始数据 df = pd.read_json('Electronics.json', lines=True) # 2. 按用户分组并排序 user_actions = df.groupby('reviewerID').apply( lambda x: x.sort_values('unixReviewTime') ) # 3. 划分Session user_actions['time_diff'] = user_actions.groupby('reviewerID')['unixReviewTime'].diff() user_actions['new_session'] = user_actions['time_diff'] > 1800 # 30分钟阈值 # 4. 构建训练样本 samples = [] for _, group in user_actions.groupby('reviewerID'): sessions = [] current_session = [] for _, row in group.iterrows(): if row['new_session'] and current_session: sessions.append(current_session) current_session = [] current_session.append(row['asin']) if current_session: sessions.append(current_session) # 构建正负样本 for i in range(len(sessions)-1): samples.append({ 'sessions': sessions[:i+1], 'target': sessions[i+1][0], # 下一个Session的第一个物品作为正样本 'label': 1 }) # 添加负样本... return samples

3.2 评估指标对比

在测试集上的表现结果：

关键发现：

• 引入Session划分带来约4%的AUC提升
• 训练时间增加约35%，但仍在可接受范围
• 对长序列用户（行为>50）效果提升更明显（+6.2% AUC）

3.3 消融实验

为验证各组件贡献，我们进行了消融研究：

4. 工程实践中的优化技巧

在实际应用中，我们发现以下几个优化点能显著提升模型效果：

4.1 动态时间阈值

固定30分钟阈值可能不适合所有场景。更好的做法是根据用户活跃模式动态调整：

def compute_dynamic_threshold(user_history): time_diffs = [] for i in range(1, len(user_history)): delta = user_history[i]['timestamp'] - user_history[i-1]['timestamp'] time_diffs.append(delta.total_seconds() / 60) if len(time_diffs) > 0: return np.percentile(time_diffs, 75) # 使用75分位数作为阈值 return 30 # 默认值

4.2 混合Session表示

结合多种Session表示方法往往能获得更好效果：

class HybridSessionEncoder(nn.Module): def __init__(self, embed_dim): super().__init__() self.attention = nn.MultiheadAttention(embed_dim, num_heads=2) self.gru = nn.GRU(embed_dim, embed_dim, batch_first=True) def forward(self, session_embed): # [session_len, embed_dim] # 注意力表示 attn_out, _ = self.attention( session_embed.mean(dim=0, keepdim=True), session_embed, session_embed ) # 序列表示 _, gru_out = self.gru(session_embed.unsqueeze(0)) # 混合表示 hybrid = torch.cat([attn_out.squeeze(0), gru_out.squeeze(0)], dim=-1) return hybrid

4.3 处理冷启动Session

对于包含少量行为的Session，可以采用以下策略：

1. Session合并：将短Session与相邻Session合并
2. 内容补充：基于物品内容相似度扩充Session
3. 特殊标记：为短Session添加特殊embedding

实现示例：

def process_short_sessions(sessions, min_length=3): processed = [] for i, session in enumerate(sessions): if len(session) >= min_length: processed.append(session) else: if i > 0 and len(sessions[i-1]) + len(session) <= 10: # 避免过长 processed[-1].extend(session) else: # 添加特殊处理标记 session.extend(['PAD']*(min_length-len(session))) processed.append(session) return processed

5. 扩展思考与应用前景

虽然我们的实验验证了Session划分的价值，但在实际业务中还需要考虑更多因素：

5.1 跨域Session应用

Session概念可以扩展到跨域推荐场景：

• 跨平台Session：整合用户在网站、APP、小程序等不同平台的行为
• 多模态Session：结合浏览、搜索、收藏、购买等多种行为类型

5.2 实时Session处理

对于实时推荐系统，需要增量式更新Session表示：

class RealTimeSessionTracker: def __init__(self, timeout=1800): self.sessions = [] self.current_session = [] self.last_activity = None self.timeout = timeout def add_action(self, item, timestamp): if self.last_activity and (timestamp - self.last_activity).seconds > self.timeout: self.sessions.append(self.current_session) self.current_session = [] self.current_session.append(item) self.last_activity = timestamp def get_active_session(self): return self.current_session def get_all_sessions(self): return self.sessions + [self.current_session] if self.current_session else self.sessions

5.3 与现有模型的结合

Session划分思想可以融入多种推荐模型：

1. 结合Graph模型：将Session作为图节点，构建用户行为图
2. 增强序列模型：为RNN/Transformer模型提供Session边界信息
3. 改进多兴趣模型：将不同Session对应不同兴趣通道