1. 项目背景与核心挑战从赛题到现实问题的映射2022年MathorCup大数据竞赛的B题聚焦于“北京移动用户体验影响因素研究”这绝不仅仅是一道纸上谈兵的数学题。它本质上是对运营商在4G/5G时代核心痛点的一次精准建模实战海量的用户、复杂的网络、多维度的体验指标以及背后难以捉摸的影响因素。作为参赛者我们拿到的是一份经过脱敏和抽象的真实数据集其目标直指运营商日常运营中的关键决策支持——如何量化评估用户体验并找到那些真正能驱动体验改善的“杠杆点”。问题一通常是整个赛题的基石它要求我们构建一个能够科学、量化评估用户体验的数学模型并给出可运行的代码实现。这听起来像是一个标准的回归或评分问题但难点恰恰隐藏在这种“标准”之下。用户体验QoE本身是一个主观感受我们需要用客观的网络指标如下行速率、时延、信号强度等去逼近它。更棘手的是这些指标之间往往存在复杂的相关性和非线性关系一个简单的加权平均分模型很可能严重失真无法捕捉到“信号满格但抖音刷不出来”这类典型体验洼地。因此构建问题一的模型核心挑战在于三点第一指标体系的构建与量化即从原始数据中筛选出能有效表征体验的关键性能指标KPI并处理其量纲和分布问题第二体验分模型的建立需要一种能够融合多指标、刻画非线性、且结果可解释的建模方法第三模型的可落地性即代码实现必须高效、稳健能够处理大数据量并且输出结果要能与业务场景如网络优化优先级排序、根因分析直接对接。在真实工作中这类模型是网络优化部门、规划部门和市场部门共同关注的焦点。一个准确的体验评估模型可以帮助运营商将有限的优化资源投入到最能提升用户感知的区域或网络问题上避免“蒙眼狂奔”。接下来我将详细拆解我们当时针对问题一设计的完整建模方案与代码实现其中包含了许多在论文中可能一笔带过但在实战中至关重要的细节和抉择。2. 数据理解与特征工程从原始信令到建模特征拿到数据后的第一步不是急于跑模型而是花足够的时间进行数据探索性分析EDA和特征工程。原始数据通常包含用户级、小区级或栅格级的海量网络测量报告MR数据字段可能包括RSRP参考信号接收功率、SINR信号与干扰加噪声比、上下行速率、时延、流量等。2.1 数据清洗与聚合原始数据往往存在缺失、异常和记录粒度不一致的问题。我们的首要任务是将其清洗并聚合到统一的建模单元上比如“小区-小时”或“地理栅格-时段”。关键清洗步骤包括缺失值处理对于关键KPI如RSRP若缺失比例不高如5%可采用同一小区相同时段的历史均值或中位数进行填充若缺失严重则需考虑该条记录是否可靠有时直接剔除是更稳妥的选择。我们当时采用了分时段忙时/闲时的小区级中位数填充法。异常值处理网络数据中常存在极端值如下行速率高达几个Gbps可能是测试数据或为0。我们使用基于分位数如1%和99%的缩尾处理Winsorization将超出范围的值拉回到边界而不是直接删除以保留数据分布形态的同时减少极端值干扰。数据聚合原始数据可能是每秒一条的记录我们需要按“小区ID”和“时间片”如1小时进行聚合。聚合函数的选择很有讲究对于速率、流量我们取均值来反映整体水平对于时延取中位数或95分位数更能反映用户体验因为用户对高时延的卡顿更敏感对于RSRP、SINR取均值或弱覆盖比例如RSRP -110dBm的样本占比都是常见做法。注意聚合窗口的大小需要权衡。窗口太小如1分钟数据波动大噪声多窗口太大如1天会掩盖忙闲时规律。通常选择1小时作为平衡点这符合运营商日常监控的粒度。2.2 核心体验维度与特征构建用户体验是多维的。我们参考业界标准如3GPP和ITU-T的建议及业务常识将其拆解为几个核心维度并为每个维度构建一个或多个特征覆盖与信号质量维度rsrp_mean平均参考信号接收功率基础覆盖指标。sinr_mean平均信号与干扰噪声比反映信号纯净度。weak_cover_ratio弱覆盖样本比例如RSRP -110dBm这个比例往往比平均值更能说明问题。速率维度dl_rate_mean下行平均速率Mbps。dl_rate_95per下行速率95分位数反映高端用户的体验。ul_rate_mean上行平均速率。交互时延维度rtt_median往返时延中位数ms。rtt_95per往返时延95分位数对游戏、视频通话等业务至关重要。业务感知维度web_browsing_score基于时延和成功率模拟的网页浏览体验分可通过映射表得到。video_streaming_score基于卡顿率和初始缓冲时延模拟的视频流体验分。网络稳定性维度rate_std速率的标准差反映波动性。switch_ratio切换成功率频繁切换失败会影响体验。特征衍生除了直接聚合的指标我们还可以创造一些更有洞察力的特征。例如sinr_rsrp_ratioSINR与RSRP的比值有时能反映干扰情况。rate_per_rsrp单位信号强度下的速率衡量频谱效率。忙闲时对比特征如dl_rate_busy_ratio忙时速率/闲时速率比值过低可能表示小区容量不足。2.3 特征标准化与相关性分析在建模前必须对特征进行标准化如Z-Score消除量纲影响使模型能够公平地对待每个特征。同时要进行严格的相关性分析计算皮尔逊相关系数矩阵。我们发现dl_rate_mean与sinr_mean通常高度相关。同时引入高度相关的特征会导致模型共线性问题影响稳定性和可解释性。我们的策略是保留业务意义更明确或更稳定的特征如sinr_mean或者构建一个综合指标如主成分来替代。这一步需要结合业务知识进行判断不能纯粹依赖统计阈值。3. 建模方案选择为什么是集成树模型而非简单回归这是方案的核心决策点。常见的思路有主观加权评分法给每个KPI设定权重加权求和得到总分。简单但权重设定主观无法处理非线性。多元线性回归以主观体验打分为因变量如果有的话拟合线性方程。可解释性强但假设关系为线性在实际中往往不成立。主成分分析PCA综合得分将多个KPI降维成一个综合得分。解决了共线性但得分缺乏直观业务含义。我们最终选择了基于机器学习的集成树模型具体是LightGBM。理由如下非线性拟合能力树模型天然能捕捉特征与目标之间的复杂非线性关系和交互作用。例如当SINR很好但速率却很低时可能是终端能力或服务器问题线性模型会失效而树模型能通过分裂规则识别这种特殊模式。特征重要性输出训练好的LightGBM模型可以直接输出每个特征对于预测结果的重要性得分。这完美契合了“影响因素研究”的主题让我们能定量地回答“哪些指标对体验影响最大”。对缺失值不敏感树模型本身具备处理缺失值的能力比需要预先填充的线性模型更稳健。效率与精度LightGBM是梯度提升树的高效实现特别适合表格型大数据训练速度快且通常能取得比单一决策树或随机森林更好的精度。但是这里存在一个根本矛盾我们的目标是“评估用户体验”但我们并没有真实的用户主观打分MOS分作为训练标签这是数学建模竞赛和真实业务的一个关键差异。在比赛中我们通常需要构造一个代理目标。我们的方法是基于业务规则定义一个综合体验指数CEI作为模型要拟合的目标。我们定义CEI为一个0-100分的指数其构造逻辑如下对每个核心维度覆盖、速率、时延分别评分。例如下行速率评分rate_score 100 * (min(max(dl_rate, 0), 100)) / 100这里假设100Mbps为满分0Mbps为0分进行线性映射实际可采用S形函数如logistic让边际效应递减。采用短板效应木桶原理进行综合CEI min(cover_score, rate_score, delay_score) * 0.7 mean(cover_score, rate_score, delay_score) * 0.3。这个公式意味着任何一个维度的严重短板会大幅拉低总分这符合用户体验的实际情况比如视频再流畅频繁掉线也受不了。引入业务感知分作为调节因子CEI CEI * (0.9 0.1 * video_streaming_score / 100)。这样我们就得到了一个既有业务逻辑支撑又可计算的连续型目标变量CEI。接下来我们用特征数据去拟合这个CEI。模型的目标是学习我们定义的这个“业务规则”并利用其非线性能力发现特征与CEI之间更精细的关系。模型预测出的CEI就是我们对用户体验的量化评估分。4. 代码实现详解从数据到模型输出的完整Pipeline以下是用Python实现的核心步骤环境为Python 3.8主要库pandas, numpy, scikit-learn, lightgbm, matplotlib/seaborn。4.1 数据加载与初步清洗import pandas as pd import numpy as np import warnings warnings.filterwarnings(ignore) # 假设数据文件为 raw_data.csv df pd.read_csv(raw_data.csv) # 查看数据概览 print(f数据形状: {df.shape}) print(df.info()) print(df.describe()) # 关键字段重命名根据实际数据字典 df df.rename(columns{ rsrp: rsrp, sinr: sinr, dl_throughput: dl_rate, ul_throughput: ul_rate, latency: rtt, cell_id: cell_id, timestamp: time }) # 时间处理 df[time] pd.to_datetime(df[time]) df[hour] df[time].dt.hour df[date] df[time].dt.date # 定义忙闲时例如 9-12, 18-21 为忙时 df[is_busy_hour] df[hour].apply(lambda x: 1 if (9x12) or (18x21) else 0)4.2 特征工程函数封装我们将特征构建过程模块化。def create_features(df_group): 对按小区和小时分组后的DataFrame进行特征聚合 features {} # 基础KPI使用中位数抗异常值 features[rsrp_median] df_group[rsrp].median() features[sinr_median] df_group[sinr].median() features[dl_rate_median] df_group[dl_rate].median() features[rtt_median] df_group[rtt].median() # 波动性指标标准差 features[dl_rate_std] df_group[dl_rate].std() # 弱覆盖比例 weak_cover_threshold -110 features[weak_cover_ratio] (df_group[rsrp] weak_cover_threshold).mean() # 高速率用户比例50Mbps features[high_rate_ratio] (df_group[dl_rate] 50).mean() # 高时延样本比例100ms features[high_delay_ratio] (df_group[rtt] 100).mean() # 忙闲时对比特征如果分组粒度是小时此特征需在外层计算 # 此处假设df_group已经包含了is_busy_hour信息 busy_df df_group[df_group[is_busy_hour]1] idle_df df_group[df_group[is_busy_hour]0] if len(busy_df) 0 and len(idle_df) 0: features[busy_idle_rate_ratio] busy_df[dl_rate].median() / max(idle_df[dl_rate].median(), 0.1) # 避免除零 else: features[busy_idle_rate_ratio] 1.0 return pd.Series(features) # 按小区和小时进行分组聚合 df_agg df.groupby([cell_id, date, hour]).apply(create_features).reset_index() print(f聚合后特征数据形状: {df_agg.shape})4.3 构造目标变量CEIdef calculate_cei(row): 计算综合体验指数CEI # 1. 各维度评分示例函数需根据业务调整阈值和形状 def score_sigmoid(x, x_mid, L100, k0.1): S形函数评分中间点x_mid得分50两端趋近0和100 return L / (1 np.exp(-k * (x - x_mid))) # 覆盖评分基于RSRP中位数 cover_score score_sigmoid(row[rsrp_median], x_mid-95) # 速率评分基于下行速率中位数 rate_score score_sigmoid(row[dl_rate_median], x_mid30) # 时延评分基于RTT中位数时延越低越好函数需反转 delay_score 100 - score_sigmoid(row[rtt_median], x_mid50) # 确保分数在0-100之间 cover_score np.clip(cover_score, 0, 100) rate_score np.clip(rate_score, 0, 100) delay_score np.clip(delay_score, 0, 100) # 2. 短板效应综合 min_score min(cover_score, rate_score, delay_score) mean_score (cover_score rate_score delay_score) / 3 cei min_score * 0.7 mean_score * 0.3 # 3. 用网络稳定性速率标准差进行微调波动越大扣分越多 stability_penalty np.clip(row[dl_rate_std] / 20, 0, 0.2) # 假设标准差20为最大惩罚20% cei cei * (1 - stability_penalty) return np.clip(cei, 0, 100) df_agg[cei] df_agg.apply(calculate_cei, axis1)4.4 模型训练与评估import lightgbm as lgb from sklearn.model_selection import train_test_split from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score from sklearn.preprocessing import StandardScaler # 准备特征和目标 feature_cols [rsrp_median, sinr_median, dl_rate_median, rtt_median, dl_rate_std, weak_cover_ratio, high_rate_ratio, high_delay_ratio, busy_idle_rate_ratio] X df_agg[feature_cols].fillna(0) # 简单填充生产环境需更细致 y df_agg[cei] # 标准化特征树模型非必须但有时有助于稳定 scaler StandardScaler() X_scaled scaler.fit_transform(X) X_scaled pd.DataFrame(X_scaled, columnsfeature_cols) # 划分训练集和测试集 X_train, X_test, y_train, y_test train_test_split(X_scaled, y, test_size0.2, random_state42) # 定义LightGBM模型 lgb_model lgb.LGBMRegressor( objectiveregression, num_leaves31, # 控制树复杂度 learning_rate0.05, n_estimators500, max_depth-1, # -1表示不限制 min_child_samples20, subsample0.8, # 防止过拟合 colsample_bytree0.8, random_state42, n_jobs-1 ) # 训练模型 lgb_model.fit( X_train, y_train, eval_set[(X_test, y_test)], eval_metricl2, callbacks[lgb.early_stopping(stopping_rounds50), lgb.log_evaluation(50)] ) # 预测与评估 y_pred lgb_model.predict(X_test) print(f测试集R^2 Score: {r2_score(y_test, y_pred):.4f}) print(f测试集MAE: {mean_absolute_error(y_test, y_pred):.4f}) print(f测试集RMSE: {np.sqrt(mean_squared_error(y_test, y_pred)):.4f}) # 特征重要性分析 importance_df pd.DataFrame({ feature: feature_cols, importance: lgb_model.feature_importances_ }).sort_values(importance, ascendingFalse) print(\n特征重要性排序:) print(importance_df)4.5 模型应用与结果输出训练好的模型可以用来对所有小区-小时样本进行体验评分并分析影响因素。# 对整个数据集进行预测 df_agg[cei_predicted] lgb_model.predict(X_scaled) # 找出体验最差的N个小区-时段 worst_experience df_agg.nsmallest(20, cei_predicted)[[cell_id, date, hour, cei_predicted] feature_cols] print(体验最差的20个样本:) print(worst_experience) # 分析主要影响因素对于体验差的样本看哪些特征值普遍异常 worst_features_analysis worst_experience[feature_cols].mean() print(\n体验差样本的平均特征值:) print(worst_features_analysis) # 可以进一步按小区聚合得到小区级的日均体验分 cell_daily_exp df_agg.groupby(cell_id).agg({ cei_predicted: mean, rsrp_median: mean, dl_rate_median: mean, # ... 其他特征 }).round(2) cell_daily_exp cell_daily_exp.sort_values(cei_predicted) print(\n小区级日均体验分排名后10名:) print(cell_daily_exp.tail(10))5. 方案优势、局限性与实战调优心得5.1 本方案的核心优势业务逻辑与数据驱动结合通过定义CEI我们将无法直接测量的主观体验转化为一个融合了业务规则短板效应的量化目标使模型学习过程有据可依。强大的非线性拟合与特征交互LightGBM能够自动发现如“高SINR但低速率”这种复杂模式对体验的影响这是线性模型无法做到的。清晰的可解释性输出特征重要性排名直接给出了“影响因素”的答案。我们可以明确地说在当前网络和数据下影响北京移动用户体验的首要因素是下行速率中位数其次是信号干扰噪声比SINR然后是时延。高效的批量处理能力训练和预测速度极快能满足海量数据数十万甚至百万样本的快速评估需求。5.2 潜在局限与改进方向代理目标的局限性CEI的定义本身带有主观性。不同的评分函数和权重会导向不同的模型。在真实业务中如果能获取少量真实的用户满意度调研数据MOS可以尝试用模型预测的CEI与真实MOS进行校准或者直接用MOS作为目标进行训练数据量少时可考虑迁移学习。特征工程的深度本方案使用了基础的特征。更深入的做法可以引入时空特征如与相邻小区的指标差值、历史同期指标等。高阶特征如基于信号覆盖栅格图生成的覆盖均匀度指标。业务混合特征如“视频业务流量占比 * 平均SINR”。模型的可解释性细节LightGBM的特征重要性是全局的。为了理解单个预测结果如为什么这个小区此时体验差可以使用SHAPSHapley Additive exPlanations值进行局部解释它能显示每个特征对该特定样本预测结果的贡献方向和大小。数据质量问题模型效果严重依赖数据质量。如果原始数据中存在系统性测量偏差如某些终端型号上报的RSRP普遍偏高模型结果就会失真。因此前期与数据提供方或模拟数据生成逻辑的沟通至关重要。5.3 实战中的调优心得与避坑指南不要盲目追求R^2在这个任务中我们的目标是排序和归因而非精准预测一个绝对分数。只要模型能稳定地将体验好和体验差的小区分开并且特征重要性排序符合网络常识模型就是可用的。R^2达到0.7以上通常就足够好了过分追求0.9可能导致过拟合。警惕“数据泄露”在构造CEI时如果使用了与特征高度相关的规则例如直接用dl_rate_median通过线性函数计算得分的一部分然后又用这个特征去预测CEI会导致模型只是简单地“记忆”了这个规则而非学习。确保目标变量的构造逻辑相对独立或者使用一部分特征构造目标用另一部分特征去预测。关注特征重要性的一致性用不同的随机种子多次训练模型观察特征重要性的排序是否稳定。如果每次训练结果波动很大说明模型不稳定可能需要增加数据量、减少模型复杂度如减小num_leaves或使用交叉验证。为业务输出做好准备最终的输出不应只是一堆分数和重要性列表。应该生成业务方看得懂的报表例如“TOP 100体验差小区清单”、“影响全市体验的三大问题根因弱覆盖、高干扰、容量不足及其地理分布图”。可视化如用matplotlib或pyecharts绘制小区体验分地理热力图在此处价值巨大。6. 从模型结果到业务建议的转化路径模型跑出结果只是第一步如何将数据洞察转化为可执行的网络优化建议才是项目的最终价值所在。基于特征重要性分析和体验差样本的深度下钻我们可以形成清晰的优化路径。路径一针对覆盖与信号质量主导的问题当rsrp_median或weak_cover_ratio特征重要性高且体验差样本的这些指标值明显偏低时问题指向覆盖盲区或弱覆盖。业务建议包括规划侧建议在对应区域进行现场路测确认覆盖空洞位置评估是否需要新增基站或室分系统。优化侧检查问题小区天线方位角、下倾角是否合理尝试调整以增强覆盖检查是否存在邻区漏配导致无法正常切换。输出物生成“弱覆盖小区及地理栅格清单”并附上建议措施。路径二针对速率主导的问题当dl_rate_median重要性最高且体验差样本速率值低但覆盖指标尚可时问题可能出在容量、干扰或传输。容量问题检查小区用户数、PRB利用率是否过高。如果忙时利用率持续超过80%则是典型的容量瓶颈。建议扩容增加载波、升级基站带宽或进行负载均衡参数优化。干扰问题检查sinr_median是否也偏低。如果覆盖好RSRP高但SINR差基本可判定为干扰。需排查外部干扰源或优化小区间的PCI物理小区ID模3冲突、频率规划等。传输问题如果空口指标RSRP, SINR都好但速率就是上不去需要核查基站到核心网的传输带宽是否充足是否存在误码率过高的问题。路径三针对时延主导的问题当rtt_median或high_delay_ratio重要性突出时问题可能涉及核心网、传输链路或服务器。建议排查跟踪S1-U口、SGi口等关键接口的时延指标。进行端到端Ping测试分段定位时延产生的环节无线侧、传输网、核心网、互联网出口。参数优化检查TCP相关参数配置如RLC无线链路控制层模式是否配置得当AM模式更可靠但时延稍高。路径四针对稳定性波动性问题当dl_rate_std或busy_idle_rate_ratio特征重要性显著时说明用户体验波动大或忙时性能劣化严重。分析重点对比忙闲时各项指标定位性能瓶颈出现的时段。检查是否有周期性干扰或是否存在特定用户群如直播用户在忙时集中使用挤占资源。优化建议实施基于业务的QoS策略保障关键业务体验或进一步细化时间粒度对忙时单独建模分析。将上述分析逻辑固化到代码中可以自动生成初步的“诊断报告”。例如对每个体验差的小区-时段样本根据其特征值组合自动匹配到上述某一条或几条问题路径并给出优先级排序的建议。这样网络优化工程师拿到的不再是冷冰冰的分数列表而是一份带着明确指向的“体检报告”和“处方建议”极大提升了数据分析到网络动作的转化效率。这套从数据清洗、特征构建、模型训练、结果分析到业务建议生成的完整Pipeline正是解决“用户体验影响因素研究”这类问题的核心方法论。 基于LightGBM与特征工程的用户体验评估模型构建实战
1. 项目背景与核心挑战从赛题到现实问题的映射2022年MathorCup大数据竞赛的B题聚焦于“北京移动用户体验影响因素研究”这绝不仅仅是一道纸上谈兵的数学题。它本质上是对运营商在4G/5G时代核心痛点的一次精准建模实战海量的用户、复杂的网络、多维度的体验指标以及背后难以捉摸的影响因素。作为参赛者我们拿到的是一份经过脱敏和抽象的真实数据集其目标直指运营商日常运营中的关键决策支持——如何量化评估用户体验并找到那些真正能驱动体验改善的“杠杆点”。问题一通常是整个赛题的基石它要求我们构建一个能够科学、量化评估用户体验的数学模型并给出可运行的代码实现。这听起来像是一个标准的回归或评分问题但难点恰恰隐藏在这种“标准”之下。用户体验QoE本身是一个主观感受我们需要用客观的网络指标如下行速率、时延、信号强度等去逼近它。更棘手的是这些指标之间往往存在复杂的相关性和非线性关系一个简单的加权平均分模型很可能严重失真无法捕捉到“信号满格但抖音刷不出来”这类典型体验洼地。因此构建问题一的模型核心挑战在于三点第一指标体系的构建与量化即从原始数据中筛选出能有效表征体验的关键性能指标KPI并处理其量纲和分布问题第二体验分模型的建立需要一种能够融合多指标、刻画非线性、且结果可解释的建模方法第三模型的可落地性即代码实现必须高效、稳健能够处理大数据量并且输出结果要能与业务场景如网络优化优先级排序、根因分析直接对接。在真实工作中这类模型是网络优化部门、规划部门和市场部门共同关注的焦点。一个准确的体验评估模型可以帮助运营商将有限的优化资源投入到最能提升用户感知的区域或网络问题上避免“蒙眼狂奔”。接下来我将详细拆解我们当时针对问题一设计的完整建模方案与代码实现其中包含了许多在论文中可能一笔带过但在实战中至关重要的细节和抉择。2. 数据理解与特征工程从原始信令到建模特征拿到数据后的第一步不是急于跑模型而是花足够的时间进行数据探索性分析EDA和特征工程。原始数据通常包含用户级、小区级或栅格级的海量网络测量报告MR数据字段可能包括RSRP参考信号接收功率、SINR信号与干扰加噪声比、上下行速率、时延、流量等。2.1 数据清洗与聚合原始数据往往存在缺失、异常和记录粒度不一致的问题。我们的首要任务是将其清洗并聚合到统一的建模单元上比如“小区-小时”或“地理栅格-时段”。关键清洗步骤包括缺失值处理对于关键KPI如RSRP若缺失比例不高如5%可采用同一小区相同时段的历史均值或中位数进行填充若缺失严重则需考虑该条记录是否可靠有时直接剔除是更稳妥的选择。我们当时采用了分时段忙时/闲时的小区级中位数填充法。异常值处理网络数据中常存在极端值如下行速率高达几个Gbps可能是测试数据或为0。我们使用基于分位数如1%和99%的缩尾处理Winsorization将超出范围的值拉回到边界而不是直接删除以保留数据分布形态的同时减少极端值干扰。数据聚合原始数据可能是每秒一条的记录我们需要按“小区ID”和“时间片”如1小时进行聚合。聚合函数的选择很有讲究对于速率、流量我们取均值来反映整体水平对于时延取中位数或95分位数更能反映用户体验因为用户对高时延的卡顿更敏感对于RSRP、SINR取均值或弱覆盖比例如RSRP -110dBm的样本占比都是常见做法。注意聚合窗口的大小需要权衡。窗口太小如1分钟数据波动大噪声多窗口太大如1天会掩盖忙闲时规律。通常选择1小时作为平衡点这符合运营商日常监控的粒度。2.2 核心体验维度与特征构建用户体验是多维的。我们参考业界标准如3GPP和ITU-T的建议及业务常识将其拆解为几个核心维度并为每个维度构建一个或多个特征覆盖与信号质量维度rsrp_mean平均参考信号接收功率基础覆盖指标。sinr_mean平均信号与干扰噪声比反映信号纯净度。weak_cover_ratio弱覆盖样本比例如RSRP -110dBm这个比例往往比平均值更能说明问题。速率维度dl_rate_mean下行平均速率Mbps。dl_rate_95per下行速率95分位数反映高端用户的体验。ul_rate_mean上行平均速率。交互时延维度rtt_median往返时延中位数ms。rtt_95per往返时延95分位数对游戏、视频通话等业务至关重要。业务感知维度web_browsing_score基于时延和成功率模拟的网页浏览体验分可通过映射表得到。video_streaming_score基于卡顿率和初始缓冲时延模拟的视频流体验分。网络稳定性维度rate_std速率的标准差反映波动性。switch_ratio切换成功率频繁切换失败会影响体验。特征衍生除了直接聚合的指标我们还可以创造一些更有洞察力的特征。例如sinr_rsrp_ratioSINR与RSRP的比值有时能反映干扰情况。rate_per_rsrp单位信号强度下的速率衡量频谱效率。忙闲时对比特征如dl_rate_busy_ratio忙时速率/闲时速率比值过低可能表示小区容量不足。2.3 特征标准化与相关性分析在建模前必须对特征进行标准化如Z-Score消除量纲影响使模型能够公平地对待每个特征。同时要进行严格的相关性分析计算皮尔逊相关系数矩阵。我们发现dl_rate_mean与sinr_mean通常高度相关。同时引入高度相关的特征会导致模型共线性问题影响稳定性和可解释性。我们的策略是保留业务意义更明确或更稳定的特征如sinr_mean或者构建一个综合指标如主成分来替代。这一步需要结合业务知识进行判断不能纯粹依赖统计阈值。3. 建模方案选择为什么是集成树模型而非简单回归这是方案的核心决策点。常见的思路有主观加权评分法给每个KPI设定权重加权求和得到总分。简单但权重设定主观无法处理非线性。多元线性回归以主观体验打分为因变量如果有的话拟合线性方程。可解释性强但假设关系为线性在实际中往往不成立。主成分分析PCA综合得分将多个KPI降维成一个综合得分。解决了共线性但得分缺乏直观业务含义。我们最终选择了基于机器学习的集成树模型具体是LightGBM。理由如下非线性拟合能力树模型天然能捕捉特征与目标之间的复杂非线性关系和交互作用。例如当SINR很好但速率却很低时可能是终端能力或服务器问题线性模型会失效而树模型能通过分裂规则识别这种特殊模式。特征重要性输出训练好的LightGBM模型可以直接输出每个特征对于预测结果的重要性得分。这完美契合了“影响因素研究”的主题让我们能定量地回答“哪些指标对体验影响最大”。对缺失值不敏感树模型本身具备处理缺失值的能力比需要预先填充的线性模型更稳健。效率与精度LightGBM是梯度提升树的高效实现特别适合表格型大数据训练速度快且通常能取得比单一决策树或随机森林更好的精度。但是这里存在一个根本矛盾我们的目标是“评估用户体验”但我们并没有真实的用户主观打分MOS分作为训练标签这是数学建模竞赛和真实业务的一个关键差异。在比赛中我们通常需要构造一个代理目标。我们的方法是基于业务规则定义一个综合体验指数CEI作为模型要拟合的目标。我们定义CEI为一个0-100分的指数其构造逻辑如下对每个核心维度覆盖、速率、时延分别评分。例如下行速率评分rate_score 100 * (min(max(dl_rate, 0), 100)) / 100这里假设100Mbps为满分0Mbps为0分进行线性映射实际可采用S形函数如logistic让边际效应递减。采用短板效应木桶原理进行综合CEI min(cover_score, rate_score, delay_score) * 0.7 mean(cover_score, rate_score, delay_score) * 0.3。这个公式意味着任何一个维度的严重短板会大幅拉低总分这符合用户体验的实际情况比如视频再流畅频繁掉线也受不了。引入业务感知分作为调节因子CEI CEI * (0.9 0.1 * video_streaming_score / 100)。这样我们就得到了一个既有业务逻辑支撑又可计算的连续型目标变量CEI。接下来我们用特征数据去拟合这个CEI。模型的目标是学习我们定义的这个“业务规则”并利用其非线性能力发现特征与CEI之间更精细的关系。模型预测出的CEI就是我们对用户体验的量化评估分。4. 代码实现详解从数据到模型输出的完整Pipeline以下是用Python实现的核心步骤环境为Python 3.8主要库pandas, numpy, scikit-learn, lightgbm, matplotlib/seaborn。4.1 数据加载与初步清洗import pandas as pd import numpy as np import warnings warnings.filterwarnings(ignore) # 假设数据文件为 raw_data.csv df pd.read_csv(raw_data.csv) # 查看数据概览 print(f数据形状: {df.shape}) print(df.info()) print(df.describe()) # 关键字段重命名根据实际数据字典 df df.rename(columns{ rsrp: rsrp, sinr: sinr, dl_throughput: dl_rate, ul_throughput: ul_rate, latency: rtt, cell_id: cell_id, timestamp: time }) # 时间处理 df[time] pd.to_datetime(df[time]) df[hour] df[time].dt.hour df[date] df[time].dt.date # 定义忙闲时例如 9-12, 18-21 为忙时 df[is_busy_hour] df[hour].apply(lambda x: 1 if (9x12) or (18x21) else 0)4.2 特征工程函数封装我们将特征构建过程模块化。def create_features(df_group): 对按小区和小时分组后的DataFrame进行特征聚合 features {} # 基础KPI使用中位数抗异常值 features[rsrp_median] df_group[rsrp].median() features[sinr_median] df_group[sinr].median() features[dl_rate_median] df_group[dl_rate].median() features[rtt_median] df_group[rtt].median() # 波动性指标标准差 features[dl_rate_std] df_group[dl_rate].std() # 弱覆盖比例 weak_cover_threshold -110 features[weak_cover_ratio] (df_group[rsrp] weak_cover_threshold).mean() # 高速率用户比例50Mbps features[high_rate_ratio] (df_group[dl_rate] 50).mean() # 高时延样本比例100ms features[high_delay_ratio] (df_group[rtt] 100).mean() # 忙闲时对比特征如果分组粒度是小时此特征需在外层计算 # 此处假设df_group已经包含了is_busy_hour信息 busy_df df_group[df_group[is_busy_hour]1] idle_df df_group[df_group[is_busy_hour]0] if len(busy_df) 0 and len(idle_df) 0: features[busy_idle_rate_ratio] busy_df[dl_rate].median() / max(idle_df[dl_rate].median(), 0.1) # 避免除零 else: features[busy_idle_rate_ratio] 1.0 return pd.Series(features) # 按小区和小时进行分组聚合 df_agg df.groupby([cell_id, date, hour]).apply(create_features).reset_index() print(f聚合后特征数据形状: {df_agg.shape})4.3 构造目标变量CEIdef calculate_cei(row): 计算综合体验指数CEI # 1. 各维度评分示例函数需根据业务调整阈值和形状 def score_sigmoid(x, x_mid, L100, k0.1): S形函数评分中间点x_mid得分50两端趋近0和100 return L / (1 np.exp(-k * (x - x_mid))) # 覆盖评分基于RSRP中位数 cover_score score_sigmoid(row[rsrp_median], x_mid-95) # 速率评分基于下行速率中位数 rate_score score_sigmoid(row[dl_rate_median], x_mid30) # 时延评分基于RTT中位数时延越低越好函数需反转 delay_score 100 - score_sigmoid(row[rtt_median], x_mid50) # 确保分数在0-100之间 cover_score np.clip(cover_score, 0, 100) rate_score np.clip(rate_score, 0, 100) delay_score np.clip(delay_score, 0, 100) # 2. 短板效应综合 min_score min(cover_score, rate_score, delay_score) mean_score (cover_score rate_score delay_score) / 3 cei min_score * 0.7 mean_score * 0.3 # 3. 用网络稳定性速率标准差进行微调波动越大扣分越多 stability_penalty np.clip(row[dl_rate_std] / 20, 0, 0.2) # 假设标准差20为最大惩罚20% cei cei * (1 - stability_penalty) return np.clip(cei, 0, 100) df_agg[cei] df_agg.apply(calculate_cei, axis1)4.4 模型训练与评估import lightgbm as lgb from sklearn.model_selection import train_test_split from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score from sklearn.preprocessing import StandardScaler # 准备特征和目标 feature_cols [rsrp_median, sinr_median, dl_rate_median, rtt_median, dl_rate_std, weak_cover_ratio, high_rate_ratio, high_delay_ratio, busy_idle_rate_ratio] X df_agg[feature_cols].fillna(0) # 简单填充生产环境需更细致 y df_agg[cei] # 标准化特征树模型非必须但有时有助于稳定 scaler StandardScaler() X_scaled scaler.fit_transform(X) X_scaled pd.DataFrame(X_scaled, columnsfeature_cols) # 划分训练集和测试集 X_train, X_test, y_train, y_test train_test_split(X_scaled, y, test_size0.2, random_state42) # 定义LightGBM模型 lgb_model lgb.LGBMRegressor( objectiveregression, num_leaves31, # 控制树复杂度 learning_rate0.05, n_estimators500, max_depth-1, # -1表示不限制 min_child_samples20, subsample0.8, # 防止过拟合 colsample_bytree0.8, random_state42, n_jobs-1 ) # 训练模型 lgb_model.fit( X_train, y_train, eval_set[(X_test, y_test)], eval_metricl2, callbacks[lgb.early_stopping(stopping_rounds50), lgb.log_evaluation(50)] ) # 预测与评估 y_pred lgb_model.predict(X_test) print(f测试集R^2 Score: {r2_score(y_test, y_pred):.4f}) print(f测试集MAE: {mean_absolute_error(y_test, y_pred):.4f}) print(f测试集RMSE: {np.sqrt(mean_squared_error(y_test, y_pred)):.4f}) # 特征重要性分析 importance_df pd.DataFrame({ feature: feature_cols, importance: lgb_model.feature_importances_ }).sort_values(importance, ascendingFalse) print(\n特征重要性排序:) print(importance_df)4.5 模型应用与结果输出训练好的模型可以用来对所有小区-小时样本进行体验评分并分析影响因素。# 对整个数据集进行预测 df_agg[cei_predicted] lgb_model.predict(X_scaled) # 找出体验最差的N个小区-时段 worst_experience df_agg.nsmallest(20, cei_predicted)[[cell_id, date, hour, cei_predicted] feature_cols] print(体验最差的20个样本:) print(worst_experience) # 分析主要影响因素对于体验差的样本看哪些特征值普遍异常 worst_features_analysis worst_experience[feature_cols].mean() print(\n体验差样本的平均特征值:) print(worst_features_analysis) # 可以进一步按小区聚合得到小区级的日均体验分 cell_daily_exp df_agg.groupby(cell_id).agg({ cei_predicted: mean, rsrp_median: mean, dl_rate_median: mean, # ... 其他特征 }).round(2) cell_daily_exp cell_daily_exp.sort_values(cei_predicted) print(\n小区级日均体验分排名后10名:) print(cell_daily_exp.tail(10))5. 方案优势、局限性与实战调优心得5.1 本方案的核心优势业务逻辑与数据驱动结合通过定义CEI我们将无法直接测量的主观体验转化为一个融合了业务规则短板效应的量化目标使模型学习过程有据可依。强大的非线性拟合与特征交互LightGBM能够自动发现如“高SINR但低速率”这种复杂模式对体验的影响这是线性模型无法做到的。清晰的可解释性输出特征重要性排名直接给出了“影响因素”的答案。我们可以明确地说在当前网络和数据下影响北京移动用户体验的首要因素是下行速率中位数其次是信号干扰噪声比SINR然后是时延。高效的批量处理能力训练和预测速度极快能满足海量数据数十万甚至百万样本的快速评估需求。5.2 潜在局限与改进方向代理目标的局限性CEI的定义本身带有主观性。不同的评分函数和权重会导向不同的模型。在真实业务中如果能获取少量真实的用户满意度调研数据MOS可以尝试用模型预测的CEI与真实MOS进行校准或者直接用MOS作为目标进行训练数据量少时可考虑迁移学习。特征工程的深度本方案使用了基础的特征。更深入的做法可以引入时空特征如与相邻小区的指标差值、历史同期指标等。高阶特征如基于信号覆盖栅格图生成的覆盖均匀度指标。业务混合特征如“视频业务流量占比 * 平均SINR”。模型的可解释性细节LightGBM的特征重要性是全局的。为了理解单个预测结果如为什么这个小区此时体验差可以使用SHAPSHapley Additive exPlanations值进行局部解释它能显示每个特征对该特定样本预测结果的贡献方向和大小。数据质量问题模型效果严重依赖数据质量。如果原始数据中存在系统性测量偏差如某些终端型号上报的RSRP普遍偏高模型结果就会失真。因此前期与数据提供方或模拟数据生成逻辑的沟通至关重要。5.3 实战中的调优心得与避坑指南不要盲目追求R^2在这个任务中我们的目标是排序和归因而非精准预测一个绝对分数。只要模型能稳定地将体验好和体验差的小区分开并且特征重要性排序符合网络常识模型就是可用的。R^2达到0.7以上通常就足够好了过分追求0.9可能导致过拟合。警惕“数据泄露”在构造CEI时如果使用了与特征高度相关的规则例如直接用dl_rate_median通过线性函数计算得分的一部分然后又用这个特征去预测CEI会导致模型只是简单地“记忆”了这个规则而非学习。确保目标变量的构造逻辑相对独立或者使用一部分特征构造目标用另一部分特征去预测。关注特征重要性的一致性用不同的随机种子多次训练模型观察特征重要性的排序是否稳定。如果每次训练结果波动很大说明模型不稳定可能需要增加数据量、减少模型复杂度如减小num_leaves或使用交叉验证。为业务输出做好准备最终的输出不应只是一堆分数和重要性列表。应该生成业务方看得懂的报表例如“TOP 100体验差小区清单”、“影响全市体验的三大问题根因弱覆盖、高干扰、容量不足及其地理分布图”。可视化如用matplotlib或pyecharts绘制小区体验分地理热力图在此处价值巨大。6. 从模型结果到业务建议的转化路径模型跑出结果只是第一步如何将数据洞察转化为可执行的网络优化建议才是项目的最终价值所在。基于特征重要性分析和体验差样本的深度下钻我们可以形成清晰的优化路径。路径一针对覆盖与信号质量主导的问题当rsrp_median或weak_cover_ratio特征重要性高且体验差样本的这些指标值明显偏低时问题指向覆盖盲区或弱覆盖。业务建议包括规划侧建议在对应区域进行现场路测确认覆盖空洞位置评估是否需要新增基站或室分系统。优化侧检查问题小区天线方位角、下倾角是否合理尝试调整以增强覆盖检查是否存在邻区漏配导致无法正常切换。输出物生成“弱覆盖小区及地理栅格清单”并附上建议措施。路径二针对速率主导的问题当dl_rate_median重要性最高且体验差样本速率值低但覆盖指标尚可时问题可能出在容量、干扰或传输。容量问题检查小区用户数、PRB利用率是否过高。如果忙时利用率持续超过80%则是典型的容量瓶颈。建议扩容增加载波、升级基站带宽或进行负载均衡参数优化。干扰问题检查sinr_median是否也偏低。如果覆盖好RSRP高但SINR差基本可判定为干扰。需排查外部干扰源或优化小区间的PCI物理小区ID模3冲突、频率规划等。传输问题如果空口指标RSRP, SINR都好但速率就是上不去需要核查基站到核心网的传输带宽是否充足是否存在误码率过高的问题。路径三针对时延主导的问题当rtt_median或high_delay_ratio重要性突出时问题可能涉及核心网、传输链路或服务器。建议排查跟踪S1-U口、SGi口等关键接口的时延指标。进行端到端Ping测试分段定位时延产生的环节无线侧、传输网、核心网、互联网出口。参数优化检查TCP相关参数配置如RLC无线链路控制层模式是否配置得当AM模式更可靠但时延稍高。路径四针对稳定性波动性问题当dl_rate_std或busy_idle_rate_ratio特征重要性显著时说明用户体验波动大或忙时性能劣化严重。分析重点对比忙闲时各项指标定位性能瓶颈出现的时段。检查是否有周期性干扰或是否存在特定用户群如直播用户在忙时集中使用挤占资源。优化建议实施基于业务的QoS策略保障关键业务体验或进一步细化时间粒度对忙时单独建模分析。将上述分析逻辑固化到代码中可以自动生成初步的“诊断报告”。例如对每个体验差的小区-时段样本根据其特征值组合自动匹配到上述某一条或几条问题路径并给出优先级排序的建议。这样网络优化工程师拿到的不再是冷冰冰的分数列表而是一份带着明确指向的“体检报告”和“处方建议”极大提升了数据分析到网络动作的转化效率。这套从数据清洗、特征构建、模型训练、结果分析到业务建议生成的完整Pipeline正是解决“用户体验影响因素研究”这类问题的核心方法论。