1. 项目背景与核心挑战在小红书这样的内容电商平台搜索系统每天需要处理数以亿计的查询请求。这些查询往往存在两个典型问题一是语义稀疏性如1c1这样的商品编码缩写二是上下文歧义如163坦克团可能指军事历史或游戏装备。传统基于规则和判别式模型的方法需要维护庞大的特征工程体系且难以应对这类复杂场景。我们团队开发的QP-OneModel创新性地采用生成式大语言模型LLM框架将命名实体识别NER、查询分类和意图生成等异构任务统一建模为序列到序列生成问题。实测表明这种范式在NER任务上F1值提升9.01%用户留存率提高0.044%。这相当于每天为平台额外创造数百万级的商业价值。关键突破点传统方法需要为每个子任务单独训练模型而我们的统一框架通过prompt工程实现多任务协同模型参数量反而减少40%2. 技术架构解析2.1 模型底座选择采用小红书自研的RedOne作为基础模型相比通用LLM具有三大优势领域词典覆盖包含300万美妆、服饰等垂直领域实体词社交语境理解专门优化过用户UGC内容的表述特征如求鉴定、求平替等特殊句式轻量化部署通过LoRA技术将175B参数模型适配到单个A100显卡模型微调时保留原始参数的95.7%仅对注意力层的query和value矩阵做低秩适配。这样既维持了通用语义能力又使推理延迟控制在150ms以内。2.2 渐进式多任务训练通过三阶段训练策略逐步解锁模型能力基础能力构建2周输入原始查询人工标注的实体/类别输出结构化字段JSON格式示例1c1 →{brand:Estée Lauder,type:foundation,color:1C1}意图生成增强1周输入相同查询销售顾问撰写的购买意图描述输出自然语言文本示例用户想了解1C1色号的实际显色效果并对比2C0的差异强化学习调优3天设计四种奖励信号实体识别准确率NER-F1分类一致性Top-3类别召回意图相关性BERTScore商业指标点击率预估3. 关键实现细节3.1 语义稀疏性处理对于1c1这类缩写查询模型通过三重机制实现精准识别品牌关联记忆构建美妆领域品牌-产品-色号的图数据库当检测到色号格式如1C1、NW20时自动触发品牌召回上下文补全def expand_query(query): if re.match(r^[a-z]\d[a-z]?$, query): # 匹配色号模式 return f{predict_brand(query)}的{query}色号 return query隐式需求推理通过用户历史行为判断是否处于比价或求推荐场景在意图描述中自动补充适合黄皮吗、持妆效果等高频需求3.2 上下文歧义消解以163坦克团为例模型并行执行以下操作多维度特征提取特征类型军事倾向信号游戏倾向信号用户画像关注历史军事博主安装战争类游戏搜索时段工作日白天晚间/周末近期行为浏览军事百科加入游戏社群动态权重调整P_{final} αP_{military} (1-α)P_{game}, α\frac{\sum w_ix_i}{\sum w_i}其中$x_i$为特征值$w_i$为实时学习的特征权重混合结果生成主结果展示军事背景信息侧边栏推荐相关游戏内容意图描述明确提示您可能想了解该部队的历史或游戏中的属性参数4. 生产环境优化4.1 性能调优技巧缓存策略对Top 10万查询建立意图描述缓存采用LFUTTL混合淘汰机制缓存命中率稳定在68%以上流量分级graph TD A[新查询] --|实时推理| B[QP-OneModel] C[高频查询] -- D[缓存集群] D --|缓存失效| B降级方案当P99延迟200ms时自动切换轻量版模型保留最后已知良好的参数快照4.2 效果监控体系搭建四层评估矩阵离线指标NER-F192.1%提升9.01%意图相关性0.87 BERTScore在线指标DCG10.21%首条结果点击率1.2%用户体验搜索放弃率-0.8%后续互动深度12%商业价值GMV转化率0.15%广告CPM3.2%5. 典型问题排查5.1 实体识别错误现象将TF口红误识别为TensorFlow相关解决方案加强品牌词白名单校验添加商品类目约束SELECT * FROM product_lexicon WHERE entity_typebrand AND category IN (beauty,fashion)5.2 意图过度发散现象对连衣裙生成200字散文式描述修复措施添加输出长度惩罚项loss λ * max(0, len(tokens) - 50)**2训练数据中强化电商场景模板5.3 敏感内容误判防护机制部署后处理过滤器建立敏感词库embedding聚类人工审核队列分级处理6. 领域扩展实践将框架迁移到其他场景时的经验旅游领域适配新增地名词典3.2万景点意图模板强调行程规划、票价对比消歧重点处理地名重复如朝阳公园对应8个城市本地生活优化引入地理位置信号商户简称映射如K记→肯德基营业时间实时查询接口对接跨语言支持混合使用RedOne和多语言模型对拼音查询自动补全汉字处理方言变体如波鞋→运动鞋
LLM统一建模在电商搜索中的实践与优化
发布时间：2026/7/31 18:12:58
1. 项目背景与核心挑战在小红书这样的内容电商平台搜索系统每天需要处理数以亿计的查询请求。这些查询往往存在两个典型问题一是语义稀疏性如1c1这样的商品编码缩写二是上下文歧义如163坦克团可能指军事历史或游戏装备。传统基于规则和判别式模型的方法需要维护庞大的特征工程体系且难以应对这类复杂场景。我们团队开发的QP-OneModel创新性地采用生成式大语言模型LLM框架将命名实体识别NER、查询分类和意图生成等异构任务统一建模为序列到序列生成问题。实测表明这种范式在NER任务上F1值提升9.01%用户留存率提高0.044%。这相当于每天为平台额外创造数百万级的商业价值。关键突破点传统方法需要为每个子任务单独训练模型而我们的统一框架通过prompt工程实现多任务协同模型参数量反而减少40%2. 技术架构解析2.1 模型底座选择采用小红书自研的RedOne作为基础模型相比通用LLM具有三大优势领域词典覆盖包含300万美妆、服饰等垂直领域实体词社交语境理解专门优化过用户UGC内容的表述特征如求鉴定、求平替等特殊句式轻量化部署通过LoRA技术将175B参数模型适配到单个A100显卡模型微调时保留原始参数的95.7%仅对注意力层的query和value矩阵做低秩适配。这样既维持了通用语义能力又使推理延迟控制在150ms以内。2.2 渐进式多任务训练通过三阶段训练策略逐步解锁模型能力基础能力构建2周输入原始查询人工标注的实体/类别输出结构化字段JSON格式示例1c1 →{brand:Estée Lauder,type:foundation,color:1C1}意图生成增强1周输入相同查询销售顾问撰写的购买意图描述输出自然语言文本示例用户想了解1C1色号的实际显色效果并对比2C0的差异强化学习调优3天设计四种奖励信号实体识别准确率NER-F1分类一致性Top-3类别召回意图相关性BERTScore商业指标点击率预估3. 关键实现细节3.1 语义稀疏性处理对于1c1这类缩写查询模型通过三重机制实现精准识别品牌关联记忆构建美妆领域品牌-产品-色号的图数据库当检测到色号格式如1C1、NW20时自动触发品牌召回上下文补全def expand_query(query): if re.match(r^[a-z]\d[a-z]?$, query): # 匹配色号模式 return f{predict_brand(query)}的{query}色号 return query隐式需求推理通过用户历史行为判断是否处于比价或求推荐场景在意图描述中自动补充适合黄皮吗、持妆效果等高频需求3.2 上下文歧义消解以163坦克团为例模型并行执行以下操作多维度特征提取特征类型军事倾向信号游戏倾向信号用户画像关注历史军事博主安装战争类游戏搜索时段工作日白天晚间/周末近期行为浏览军事百科加入游戏社群动态权重调整P_{final} αP_{military} (1-α)P_{game}, α\frac{\sum w_ix_i}{\sum w_i}其中$x_i$为特征值$w_i$为实时学习的特征权重混合结果生成主结果展示军事背景信息侧边栏推荐相关游戏内容意图描述明确提示您可能想了解该部队的历史或游戏中的属性参数4. 生产环境优化4.1 性能调优技巧缓存策略对Top 10万查询建立意图描述缓存采用LFUTTL混合淘汰机制缓存命中率稳定在68%以上流量分级graph TD A[新查询] --|实时推理| B[QP-OneModel] C[高频查询] -- D[缓存集群] D --|缓存失效| B降级方案当P99延迟200ms时自动切换轻量版模型保留最后已知良好的参数快照4.2 效果监控体系搭建四层评估矩阵离线指标NER-F192.1%提升9.01%意图相关性0.87 BERTScore在线指标DCG10.21%首条结果点击率1.2%用户体验搜索放弃率-0.8%后续互动深度12%商业价值GMV转化率0.15%广告CPM3.2%5. 典型问题排查5.1 实体识别错误现象将TF口红误识别为TensorFlow相关解决方案加强品牌词白名单校验添加商品类目约束SELECT * FROM product_lexicon WHERE entity_typebrand AND category IN (beauty,fashion)5.2 意图过度发散现象对连衣裙生成200字散文式描述修复措施添加输出长度惩罚项loss λ * max(0, len(tokens) - 50)**2训练数据中强化电商场景模板5.3 敏感内容误判防护机制部署后处理过滤器建立敏感词库embedding聚类人工审核队列分级处理6. 领域扩展实践将框架迁移到其他场景时的经验旅游领域适配新增地名词典3.2万景点意图模板强调行程规划、票价对比消歧重点处理地名重复如朝阳公园对应8个城市本地生活优化引入地理位置信号商户简称映射如K记→肯德基营业时间实时查询接口对接跨语言支持混合使用RedOne和多语言模型对拼音查询自动补全汉字处理方言变体如波鞋→运动鞋
