从曝光到转化手把手拆解阿里ESMM模型在PaddlePaddle上的实现与调优在推荐系统的工业实践中转化率预估CVR一直是块难啃的骨头。想象一个典型场景用户浏览商品列表时系统需要预测的不仅是这个商品会被点击吗更要判断点击后最终会购买吗。传统CVR模型面临两大顽疾——样本选择偏差SSB和数据稀疏就像用残缺的地图导航结果往往南辕北辙。阿里2018年提出的ESMMEntire Space Multi-Task Model用多任务学习的巧思通过CTR和CTCVR两个辅助任务让CVR预估重获新生。本文将带您深入ESMM的PaddlePaddle实现细节从网络架构搭建到损失函数设计再到工业级调参技巧。不同于理论科普我们聚焦于三个实操目标1如何用Paddle高效实现共享Embedding层2CTCVR损失函数的工程化实现3解决实际训练中的梯度冲突和特征穿越问题。无论您是希望快速复现ESMM还是需要定制多任务模型这些代码级经验都值得收藏。1. 环境准备与数据流设计1.1 PaddlePaddle环境配置推荐使用2.3版本获取完整的多任务学习API支持。基础环境只需以下依赖!pip install paddlepaddle-gpu2.3.2.post112 -f https://www.paddlepaddle.org.cn/whl/linux/mkl/avx/stable.html import paddle import paddle.nn.functional as F数据格式建议采用稀疏特征稠密特征混合的Schema设计。以电商场景为例特征类型示例字段处理方式用户稀疏特征user_id, age_levelEmbedding Layer商品稀疏特征item_id, categoryEmbedding Layer上下文特征hour, platform直接拼接交叉特征user_item_clk_7d分桶后Embedding1.2 共享Embedding层实现ESMM的核心在于CTR和CVR塔共享底层特征表达。Paddle中可通过继承paddle.nn.Layer实现class SharedEmbedding(paddle.nn.Layer): def __init__(self, feature_dims, embed_size16): super().__init__() self.embedding_layers paddle.nn.LayerList([ paddle.nn.Embedding(dim, embed_size) for dim in feature_dims ]) def forward(self, inputs): # inputs: List[Tensor], 每个Tensor对应一个特征字段 embeds [] for i, emb_layer in enumerate(self.embedding_layers): feat_emb emb_layer(inputs[i]) embeds.append(feat_emb) return paddle.concat(embeds, axis1)关键细节使用LayerList管理多个Embedding层避免手动注册参数特征拼接前不做Pooling保留完整序列信息通过paddle.no_grad()可冻结部分Embedding层2. 双塔网络结构剖析2.1 CTR/CVR塔的差异化设计虽然共享底层特征但两个任务塔需要差异化的MLP结构class TaskTower(paddle.nn.Layer): def __init__(self, input_dim, hidden_units, task_name): super().__init__() self.mlp paddle.nn.Sequential() for i, (in_dim, out_dim) in enumerate(zip( [input_dim] hidden_units[:-1], hidden_units )): self.mlp.add_sublayer( f{task_name}_fc_{i}, paddle.nn.Linear(in_dim, out_dim) ) self.mlp.add_sublayer( f{task_name}_act_{i}, paddle.nn.ReLU() ) def forward(self, x): return self.mlp(x)配置建议CTR塔通常更深4-6层适合学习复杂的用户兴趣模式CVR塔宽度更大隐藏单元数多20%-30%需要捕捉转化决策的强特征最后一层不使用激活函数直接输出logits2.2 CTCVR的连乘计算公式(1)的工程实现需要特别注意数值稳定性def compute_ctcvr(ctr_out, cvr_out): # 取正类的概率 ctr_prob ctr_out[:, 1:2] # shape: [batch_size, 1] cvr_prob cvr_out[:, 1:2] # 限制概率范围避免数值溢出 ctr_prob paddle.clip(ctr_prob, min1e-5, max1-1e-5) cvr_prob paddle.clip(cvr_prob, min1e-5, max1-1e-5) ctcvr_prob ctr_prob * cvr_prob return paddle.concat([1-ctcvr_prob, ctcvr_prob], axis1)注意实际部署时需要同步更新CTR和CVR模型任何单方面的更新都会导致CTCVR结果异常3. 损失函数与训练技巧3.1 联合损失实现公式(2)的Paddle实现需要处理样本权重class ESMMLoss(paddle.nn.Layer): def __init__(self, alpha0.5): super().__init__() self.alpha alpha # CTR任务权重 def forward(self, ctr_pred, cvr_pred, ctcvr_pred, labels): ctr_label labels[ctr] ctcvr_label labels[ctcvr] # CTR loss (binary cross-entropy) ctr_loss F.binary_cross_entropy( ctr_pred[:, 1], ctr_label.astype(float32) ) # CTCVR loss ctcvr_loss F.binary_cross_entropy( ctcvr_pred[:, 1], ctcvr_label.astype(float32) ) return self.alpha * ctr_loss (1 - self.alpha) * ctcvr_loss调参发现α0.7~0.8时效果最佳更侧重CTR学习引入动态权重调整如CTR loss下降快时减小α加入L2正则化防止CVR过拟合3.2 梯度冲突解决方案多任务学习常见梯度冲突问题可通过以下方式缓解梯度裁剪optimizer paddle.optimizer.Adam( learning_rate0.001, parametersmodel.parameters(), grad_clippaddle.nn.ClipGradByGlobalNorm(clip_norm1.0) )任务专属BatchCTR任务采样全量曝光数据CTCVR任务只采样有点击的数据特征Mask机制# 在forward中添加 if self.training: cvr_output cvr_output * self.cvr_mask # 随机屏蔽部分特征4. 工业级优化实践4.1 特征工程增强相比原论文工业实现需额外关注时序特征用户最近1/7/30天的点击、转化计数交叉特征用户-商品交叉统计如该用户对此类商品的转化率场景特征时段、设备、地理位置等上下文信息# 示例实时特征拼接 def add_real_time_features(batch): batch[user_item_30d_cvr] get_user_item_cvr( batch[user_id], batch[item_id], time_range30d ) return batch4.2 线上服务优化模型部署时需要特别注意计算图优化# 导出推理模型时固定输入尺寸 paddle.jit.save( model, esmm_infer, input_spec[ paddle.static.InputSpec(shape[None, 10], dtypeint64), paddle.static.InputSpec(shape[None, 5], dtypefloat32) ] )缓存策略高频访问的Embedding参数缓存到RedisCTCVR结果预计算并定时更新降级方案当CVR服务超时时回退到CTR排序监控CTCVR/CTR比值异常波动4.3 效果评估指标除常规AUC外需关注业务指标指标名称计算公式评估目标CTCVR-AUC全样本空间AUC整体排序能力CVR-AUC点击样本AUC转化预测准确性订单量提升比例(新模型订单-基线订单)/基线订单商业价值转化成本总花费/总转化数广告主ROI在实际AB测试中ESMM通常能带来8-15%的CTCVR提升但要注意当CTR模型非常强时ESMM的增益会减弱此时可尝试引入CTR任务的蒸馏学习踩过最大的坑是初期过度优化CVR塔的AUC反而导致线上CTCVR下降。后来发现需要保持CTR和CVR的平衡优化现在我们的策略是先单独优化CTR模型到瓶颈固定CTR部分参数重点调优CVR结构最后联合微调全部参数这种分阶段训练方式比直接端到端训练稳定得多。另一个实用技巧是对转化样本进行加权采样缓解正负样本不平衡问题。
从曝光到转化：手把手拆解阿里ESMM模型在PaddlePaddle上的实现与调优
发布时间：2026/6/9 1:52:12
从曝光到转化手把手拆解阿里ESMM模型在PaddlePaddle上的实现与调优在推荐系统的工业实践中转化率预估CVR一直是块难啃的骨头。想象一个典型场景用户浏览商品列表时系统需要预测的不仅是这个商品会被点击吗更要判断点击后最终会购买吗。传统CVR模型面临两大顽疾——样本选择偏差SSB和数据稀疏就像用残缺的地图导航结果往往南辕北辙。阿里2018年提出的ESMMEntire Space Multi-Task Model用多任务学习的巧思通过CTR和CTCVR两个辅助任务让CVR预估重获新生。本文将带您深入ESMM的PaddlePaddle实现细节从网络架构搭建到损失函数设计再到工业级调参技巧。不同于理论科普我们聚焦于三个实操目标1如何用Paddle高效实现共享Embedding层2CTCVR损失函数的工程化实现3解决实际训练中的梯度冲突和特征穿越问题。无论您是希望快速复现ESMM还是需要定制多任务模型这些代码级经验都值得收藏。1. 环境准备与数据流设计1.1 PaddlePaddle环境配置推荐使用2.3版本获取完整的多任务学习API支持。基础环境只需以下依赖!pip install paddlepaddle-gpu2.3.2.post112 -f https://www.paddlepaddle.org.cn/whl/linux/mkl/avx/stable.html import paddle import paddle.nn.functional as F数据格式建议采用稀疏特征稠密特征混合的Schema设计。以电商场景为例特征类型示例字段处理方式用户稀疏特征user_id, age_levelEmbedding Layer商品稀疏特征item_id, categoryEmbedding Layer上下文特征hour, platform直接拼接交叉特征user_item_clk_7d分桶后Embedding1.2 共享Embedding层实现ESMM的核心在于CTR和CVR塔共享底层特征表达。Paddle中可通过继承paddle.nn.Layer实现class SharedEmbedding(paddle.nn.Layer): def __init__(self, feature_dims, embed_size16): super().__init__() self.embedding_layers paddle.nn.LayerList([ paddle.nn.Embedding(dim, embed_size) for dim in feature_dims ]) def forward(self, inputs): # inputs: List[Tensor], 每个Tensor对应一个特征字段 embeds [] for i, emb_layer in enumerate(self.embedding_layers): feat_emb emb_layer(inputs[i]) embeds.append(feat_emb) return paddle.concat(embeds, axis1)关键细节使用LayerList管理多个Embedding层避免手动注册参数特征拼接前不做Pooling保留完整序列信息通过paddle.no_grad()可冻结部分Embedding层2. 双塔网络结构剖析2.1 CTR/CVR塔的差异化设计虽然共享底层特征但两个任务塔需要差异化的MLP结构class TaskTower(paddle.nn.Layer): def __init__(self, input_dim, hidden_units, task_name): super().__init__() self.mlp paddle.nn.Sequential() for i, (in_dim, out_dim) in enumerate(zip( [input_dim] hidden_units[:-1], hidden_units )): self.mlp.add_sublayer( f{task_name}_fc_{i}, paddle.nn.Linear(in_dim, out_dim) ) self.mlp.add_sublayer( f{task_name}_act_{i}, paddle.nn.ReLU() ) def forward(self, x): return self.mlp(x)配置建议CTR塔通常更深4-6层适合学习复杂的用户兴趣模式CVR塔宽度更大隐藏单元数多20%-30%需要捕捉转化决策的强特征最后一层不使用激活函数直接输出logits2.2 CTCVR的连乘计算公式(1)的工程实现需要特别注意数值稳定性def compute_ctcvr(ctr_out, cvr_out): # 取正类的概率 ctr_prob ctr_out[:, 1:2] # shape: [batch_size, 1] cvr_prob cvr_out[:, 1:2] # 限制概率范围避免数值溢出 ctr_prob paddle.clip(ctr_prob, min1e-5, max1-1e-5) cvr_prob paddle.clip(cvr_prob, min1e-5, max1-1e-5) ctcvr_prob ctr_prob * cvr_prob return paddle.concat([1-ctcvr_prob, ctcvr_prob], axis1)注意实际部署时需要同步更新CTR和CVR模型任何单方面的更新都会导致CTCVR结果异常3. 损失函数与训练技巧3.1 联合损失实现公式(2)的Paddle实现需要处理样本权重class ESMMLoss(paddle.nn.Layer): def __init__(self, alpha0.5): super().__init__() self.alpha alpha # CTR任务权重 def forward(self, ctr_pred, cvr_pred, ctcvr_pred, labels): ctr_label labels[ctr] ctcvr_label labels[ctcvr] # CTR loss (binary cross-entropy) ctr_loss F.binary_cross_entropy( ctr_pred[:, 1], ctr_label.astype(float32) ) # CTCVR loss ctcvr_loss F.binary_cross_entropy( ctcvr_pred[:, 1], ctcvr_label.astype(float32) ) return self.alpha * ctr_loss (1 - self.alpha) * ctcvr_loss调参发现α0.7~0.8时效果最佳更侧重CTR学习引入动态权重调整如CTR loss下降快时减小α加入L2正则化防止CVR过拟合3.2 梯度冲突解决方案多任务学习常见梯度冲突问题可通过以下方式缓解梯度裁剪optimizer paddle.optimizer.Adam( learning_rate0.001, parametersmodel.parameters(), grad_clippaddle.nn.ClipGradByGlobalNorm(clip_norm1.0) )任务专属BatchCTR任务采样全量曝光数据CTCVR任务只采样有点击的数据特征Mask机制# 在forward中添加 if self.training: cvr_output cvr_output * self.cvr_mask # 随机屏蔽部分特征4. 工业级优化实践4.1 特征工程增强相比原论文工业实现需额外关注时序特征用户最近1/7/30天的点击、转化计数交叉特征用户-商品交叉统计如该用户对此类商品的转化率场景特征时段、设备、地理位置等上下文信息# 示例实时特征拼接 def add_real_time_features(batch): batch[user_item_30d_cvr] get_user_item_cvr( batch[user_id], batch[item_id], time_range30d ) return batch4.2 线上服务优化模型部署时需要特别注意计算图优化# 导出推理模型时固定输入尺寸 paddle.jit.save( model, esmm_infer, input_spec[ paddle.static.InputSpec(shape[None, 10], dtypeint64), paddle.static.InputSpec(shape[None, 5], dtypefloat32) ] )缓存策略高频访问的Embedding参数缓存到RedisCTCVR结果预计算并定时更新降级方案当CVR服务超时时回退到CTR排序监控CTCVR/CTR比值异常波动4.3 效果评估指标除常规AUC外需关注业务指标指标名称计算公式评估目标CTCVR-AUC全样本空间AUC整体排序能力CVR-AUC点击样本AUC转化预测准确性订单量提升比例(新模型订单-基线订单)/基线订单商业价值转化成本总花费/总转化数广告主ROI在实际AB测试中ESMM通常能带来8-15%的CTCVR提升但要注意当CTR模型非常强时ESMM的增益会减弱此时可尝试引入CTR任务的蒸馏学习踩过最大的坑是初期过度优化CVR塔的AUC反而导致线上CTCVR下降。后来发现需要保持CTR和CVR的平衡优化现在我们的策略是先单独优化CTR模型到瓶颈固定CTR部分参数重点调优CVR结构最后联合微调全部参数这种分阶段训练方式比直接端到端训练稳定得多。另一个实用技巧是对转化样本进行加权采样缓解正负样本不平衡问题。
)
