1. 项目概述与核心挑战在因果推断的实际应用中我们常常想知道一个干预措施比如一种新药、一项政策对不同人的效果是否一样。这就是异质性处理效应CATE估计要回答的问题。理想情况下我们希望为每个个体或亚组都得到一个精准的“效果画像”从而指导个性化决策。近年来以DR-learner和EP-learner为代表的因果机器学习方法通过结合高效影响函数Influence Functions和双重稳健Doubly Robust等思想在估计CATE方面展现出了强大的潜力。它们能有效利用高维数据处理复杂的非线性关系并且对倾向性评分等干扰参数模型的误设有一定的稳健性。然而现实世界的数据很少是完美的。一个几乎在所有观察性研究甚至部分随机试验中都会遇到的“拦路虎”就是结果数据的缺失。例如在临床试验的长期随访中部分患者可能失访在社会调查中部分受访者可能拒绝回答关键问题。当这种缺失并非完全随机而是与某些可观测的协变量相关时即满足随机缺失Missing at Random, MAR假设时问题就变得棘手了。传统的CATE估计器无论是简单的T-learner还是更复杂的DR-learner通常默认使用完整病例Available Cases进行分析。这看似直接实则暗藏风险在缺失比例较高的亚组中可用的样本量会急剧减少。机器学习模型为了在这些数据稀疏的区域防止过拟合会倾向于进行过度平滑Over-smoothing从而导致对这些亚组的CATE估计产生严重偏差或者完全无法捕捉到该亚组内真实存在的效应异质性。这就好比我们想绘制一幅全国地形图但西部地区的数据点大量缺失绘图算法只能根据东部密集的数据点“猜”西部的地形结果很可能把高原画成了平原。为了解决这个问题一个直观的想法是利用逆概率删失加权Inverse Probability of Censoring Weights, IPCW。IPCW的核心思想是给那些结果被观测到的个体赋予更高的权重这个权重是其“结果被观测到”的概率的倒数。这样在加权后的样本中协变量的分布就能更好地代表原始目标人群从而校正因缺失导致的样本选择偏差。但简单地将IPCW权重与现有的CATE估计器如IPTW-IPCW估计器结合会引入新的问题IPCW权重本身需要用一个模型缺失机制模型来估计而这个模型的估计误差会直接传递到最终的CATE估计中造成所谓的“插件偏差”Plug-in Bias。特别是当使用灵活但收敛速度相对较慢的机器学习算法来估计缺失机制时这种偏差在有限样本下可能非常显著。正是在这样的背景下mDR-learner和mEP-learner被提出。它们不是简单地将IPCW作为事后加权的工具而是从底层原理出发在高效影响函数的框架下将缺失数据机制自然地、有机地整合到估计器的构造中。其目标是构建出对缺失机制模型估计误差更不敏感即更稳健的估计器即使在缺失存在的情况下也能实现“神谕效率”Oracle Efficiency——即当干扰参数如倾向性评分、结果回归模型、缺失机制模型的估计收敛速度足够快时最终CATE估计器的表现能媲美这些干扰参数已知时的最优表现。接下来我们将深入拆解这两个估计器的设计思路、实现细节并分享在实际操作中的关键决策与避坑经验。2. 核心原理从完整数据到缺失数据的桥梁构建要理解mDR-learner和mEP-learner我们必须先回到它们的“原型”——DR-learner和EP-learner在完整数据下的工作原理然后看缺失数据如何改变了游戏规则以及新估计器如何巧妙地搭建起连接的桥梁。2.1 完整数据下的基石DR-learner与EP-learner在无缺失数据的情况下我们的观测数据是O (Z, A, Y)。DR-learner的核心是一个两阶段过程构造伪结果Pseudo-outcome利用高效影响函数的思想构造一个名为Y_DR的伪结果变量。其公式为Y_DR (A - π(Z)) / [π(Z)(1-π(Z))] * (Y - μ_A(Z)) (μ_1(Z) - μ_0(Z))其中π(Z)是倾向性评分μ_a(Z) E[Y|Aa, Z]是潜在结果回归函数。这个伪结果的神奇之处在于它的条件期望E[Y_DR | X]恰好等于我们想要的CATE即θ(X)。更重要的是它的构造方式使得最终CATE估计的误差对π(Z)和μ_a(Z)的估计误差的敏感度是它们误差的乘积级而非简单的加和。这意味着只要两个干扰参数模型有一个估计得比较准最终结果就不会太差这就是“双重稳健”性的体现。回归伪结果将第一步得到的伪结果Y_DR对我们关心的异质性变量X进行回归得到的预测函数就是CATE的估计θ(X)。EP-learner则采用了靶向学习Targeted Learning框架特别是无限维靶向最大似然估计iTMLE。它同样先获得初始的干扰参数估计然后通过一个“靶向修正”步骤来更新结果回归函数μ_a(Z)。这个修正步骤通过一个加权的线性回归实现其权重和偏移量的设计灵感同样来源于CATE的MSE风险函数的高效影响函数。修正后的结果函数之差μ_1*(Z) - μ_0*(Z)被用作伪结果再对X回归得到CATE。iTMLE的优势在于能更好地处理极端倾向性评分通常能产生更稳定的估计。2.2 缺失数据带来的根本变化与识别挑战当结果Y可能缺失时我们引入缺失指示符CC1表示观测到。数据变为O (Z, A, C, C*Y)。此时要识别CATE除了常规的因果假设一致性、无混淆、正值性还需增加关于缺失机制的假设随机缺失MAR给定处理A和协变量Z缺失C与结果Y独立。即P(C1 | Y, A, Z) P(C1 | A, Z)。这意味着缺失只依赖于观测到的变量。缺失机制的正值性对于所有可能的(A, Z)都有P(C1 | A, Z) 0。即每个人都有被观测到结果的正概率。在这两个额外假设下CATE的识别公式发生了变化。以基于回归的识别为例它不再是简单地用全人群估计E[Y|A1, Z]而是必须限制在完整病例中并条件于Zθ(x) E[ E[Y | A1, C1, Z] - E[Y | A0, C1, Z] | Xx ]这个公式清晰地揭示了一个问题我们最终依赖的是子人群C1中的条件期望。如果缺失机制P(C1 | A, Z)在不同(A, Z)组合间差异很大那么完整病例样本的协变量分布(Z | C1)将与目标人群的分布(Z)产生系统性偏差。直接用这个有偏的样本来训练机器学习模型μ_a(Z) E[Y | Aa, C1, Z]模型在缺失率高即P(C1|A,Z)小的区域会因数据稀疏而表现不佳从而导致该区域的CATE估计失真。2.3 mDR-learner与mEP-learner的革新将IPCW内生于影响函数面对上述挑战mDR-learner和mEP-learner的解决思路不是外在地对样本进行加权而是内在地修改估计器的构造目标——即CATE的MSE风险函数。当存在缺失时这个风险函数的定义也变了它必须考虑只有C1的个体贡献了Y的信息。mDR-learner的核心创新在于它推导了在MAR假设下CATE的MSE风险函数所对应的新的高效影响函数EIF。这个新的EIF中自然包含了逆概率删失权重G(A, Z) P(C1 | A, Z)。基于这个新的EIFmDR-learner的伪结果公式演变为Y_mDR [ (A - π(Z)) * C ] / [ π(Z)(1-π(Z)) * G(A, Z) ] * (Y - μ_A(Z)) (μ_1(Z) - μ_0(Z))与标准的Y_DR相比分子多了一个C确保只有观测到结果的个体才进入纠偏项分母多了一个G(A, Z)。这个权重1/G(A, Z)正是IPCW权重。它起到了双重作用一是纠偏校正因Y缺失带来的估计偏差二是稳定方差通过给那些“稀有”的即G(A,Z)小的、但结果被观测到的个体赋予更高权重来平衡样本分布。mEP-learner的思路一脉相承。它修改了iTMLE靶向修正步骤中的权重。在完整数据的EP-learner中用于加权回归的“聪明协变量”权重是H(A, Z) A/π(Z) (1-A)/(1-π(Z))。在mEP-learner中这个权重被扩展为H(A, C, Z) C * [ A/(G(A,Z)π(Z)) (1-A)/(G(A,Z)(1-π(Z)) ]这个新的权重同样融入了C和G(A,Z)确保在存在缺失的情况下靶向修正步骤能够有效地将插件偏差归零。关键理解这种“内生”整合的方式相较于外在地对样本或伪结果进行加权在理论上有显著优势。它保证了估计器仍然基于一个明确定义的风险函数考虑缺失的MSE的EIF构建。因此mDR/mEP-learner继承了原型估计器的优良性质特别是关于“神谕效率”的性质。具体来说只要干扰参数模型π(Z),μ_a(Z),G(A,Z)的估计误差收敛速度的乘积快于神谕CATE估计器本身的收敛速度那么mDR/mEP-learner的最终误差就主要由伪结果对X的回归误差决定而对单个干扰参数模型的估计误差不敏感。这为我们在实践中使用灵活的机器学习算法来拟合这些复杂模型提供了理论保障。3. 实操指南从理论到代码的实现细节理解了原理下一步就是动手实现。这里我将结合常见的Python数据科学栈如sklearn,statsmodels详细拆解实现mDR-learner的关键步骤并对比说明mEP-learner的实现差异。我们假设你已经有了一个数据集df包含列Z1,Z2, ...协变量A处理0/1C缺失指示1观测到0缺失Y结果缺失处为NaN。3.1 mDR-learner的实现步骤与代码剖析mDR-learner的算法可以清晰地分为以下几步交叉拟合Cross-fitting贯穿其中以保障估计的无偏性。步骤一数据准备与交叉拟合划分首先将数据随机划分为K折例如K5或10。交叉拟合的目的是确保用于估计干扰参数的样本与用于构造伪结果的样本是独立的防止过拟合导致的乐观偏差。import numpy as np import pandas as pd from sklearn.model_selection import KFold def prepare_cross_fitting(df, n_splits5, random_state42): kf KFold(n_splitsn_splits, shuffleTrue, random_staterandom_state) fold_assignments np.zeros(len(df), dtypeint) for fold_idx, (_, test_idx) in enumerate(kf.split(df)): fold_assignments[test_idx] fold_idx df[fold] fold_assignments return df步骤二估计干扰参数模型对于每一折k我们使用其他所有折的数据来训练三个关键模型倾向性评分模型π(Z): 预测P(A1 | Z)。可以使用逻辑回归、随机森林或Super Learner。缺失机制模型G(A, Z): 预测P(C1 | A, Z)。同样是一个分类模型。结果回归模型μ_0(Z)和μ_1(Z): 预测E[Y | Aa, C1, Z]。注意这里训练数据仅使用C1且Aa的样本。对于连续Y可用回归模型对于二分类Y用分类模型预测概率。from sklearn.ensemble import RandomForestClassifier, RandomForestRegressor from sklearn.linear_model import LogisticRegression # 假设使用随机森林实际中建议用Super Learner或进行超参数调优 def train_nuisance_models(df_train): # 倾向性评分模型 ps_model RandomForestClassifier(n_estimators100, random_state42) ps_model.fit(df_train[[Z1, Z2]], df_train[A]) # 缺失机制模型 missing_model RandomForestClassifier(n_estimators100, random_state42) missing_model.fit(df_train[[A, Z1, Z2]], df_train[C]) # 结果回归模型 (仅用完整病例) df_train_complete df_train[df_train[C]1] # 处理组结果模型 df_train_treated df_train_complete[df_train_complete[A]1] outcome_model_1 RandomForestRegressor(n_estimators100, random_state42) outcome_model_1.fit(df_train_treated[[Z1, Z2]], df_train_treated[Y]) # 控制组结果模型 df_train_control df_train_complete[df_train_complete[A]0] outcome_model_0 RandomForestRegressor(n_estimators100, random_state42) outcome_model_0.fit(df_train_control[[Z1, Z2]], df_train_control[Y]) return ps_model, missing_model, outcome_model_0, outcome_model_1步骤三预测与构造伪结果对于第k折的样本使用步骤二中训练的模型进行预测并计算伪结果Y_mDR。def calculate_pseudo_outcome_mdr(row, ps_model, missing_model, outcome_model_0, outcome_model_1): Z row[[Z1, Z2]].values.reshape(1, -1) A row[A] C row[C] Y row[Y] # 预测 pi_hat ps_model.predict_proba(Z)[0, 1] # P(A1|Z) g_hat missing_model.predict_proba([[A, row[Z1], row[Z2]]])[0, 1] # P(C1|A,Z) mu_0_hat outcome_model_0.predict(Z)[0] mu_1_hat outcome_model_1.predict(Z)[0] mu_A_hat A * mu_1_hat (1-A) * mu_0_hat # 核心计算伪结果 # 注意处理除零问题当 pi_hat 接近 0/1 或 g_hat 接近 0 时 epsilon 1e-6 pi_hat np.clip(pi_hat, epsilon, 1-epsilon) g_hat np.clip(g_hat, epsilon, 1) if C 1 and not np.isnan(Y): drift_term ((A - pi_hat) * C) / (pi_hat * (1 - pi_hat) * g_hat) * (Y - mu_A_hat) else: # 对于缺失Y的个体纠偏项为0因为Y未知。但μ_a(Z)仍可预测。 drift_term 0 pseudo_outcome drift_term (mu_1_hat - mu_0_hat) return pseudo_outcome步骤四回归伪结果得到CATE将所有折的伪结果合并得到一个完整的数据集其中每个个体都有一个伪结果Y_mDR。最后将Y_mDR对感兴趣的异质性变量X通常是Z的一个子集进行回归。这个回归模型可以是任何你喜欢的机器学习模型比如随机森林、梯度提升树或神经网络。模型的预测值就是个体层面的CATE估计θ(X)。from sklearn.ensemble import RandomForestRegressor # 假设df_full已经包含了所有样本计算出的pseudo_outcome列 X_features df_full[[Z1, Z2]] # 这里XZ实际中可能只是Z的子集 cate_model RandomForestRegressor(n_estimators200, random_state42) cate_model.fit(X_features, df_full[pseudo_outcome]) # 预测CATE df_full[cate_estimate] cate_model.predict(X_features)3.2 mEP-learner的实现差异与关键点mEP-learner的前两步数据划分、干扰参数估计与mDR-learner完全相同。关键区别在于第三步的“靶向修正”和伪结果构造。计算聪明协变量Clever Covariate权重对于每个观测到结果的个体C1计算权重H_hat C * [ A/(g_hat * pi_hat) (1-A)/(g_hat * (1-pi_hat)) ]。同样需要裁剪防止除零。选择筛基Sieve Basis这是iTMLE的核心。我们需要一组基函数φ(X)来近似CATE函数θ(X)。常见选择是余弦多项式基或多项式基。例如如果X一维的我们可以定义φ(X) [1, cos(πX), cos(2πX), ..., cos(dπX)]其中d是维度。靶向修正回归以初始结果预测μ_A_hat为偏移量offset以H_hat为权重对观测到的结果Y关于筛基φ(X)进行加权线性回归。这个回归只使用C1的样本。import statsmodels.api as sm # 假设已为每个个体计算了 mu_A_hat, H_hat并构建了筛基矩阵 phi_X df_complete df[df[C]1].copy() # 加权线性回归无截距项因为偏移量已包含均值信息 model_wls sm.WLS(df_complete[Y] - df_complete[mu_A_hat], df_complete[phi_columns], weightsdf_complete[H_hat]) result model_wls.fit() epsilon_hat result.params # 回归系数更新结果预测利用估计的系数ε_hat更新潜在结果预测。μ_1*_hat μ_1_hat ε_hat · φ(X)μ_0*_hat μ_0_hat - ε_hat · φ(X)注意符号μ_1是加μ_0是减这确保了(μ_1* - μ_0*) (μ_1 - μ_0) 2 * ε_hat · φ(X)从而让更新后的差异更接近最优的CATE。构造伪结果并回归伪结果就是更新后的差异Y_mEP μ_1*_hat - μ_0*_hat。然后将Y_mEP对X回归得到最终的CATE估计步骤与mDR-learner的步骤四一致。3.3 实操中的关键决策与经验分享干扰参数模型的选择理论要求它们收敛速度快。实践中超级学习器Super Learner是黄金标准。它通过交叉验证组合多个基学习器如线性模型、树模型、平滑样条等能渐进地达到候选库中最佳学习器的性能。如果计算资源有限弹性网络、梯度提升树或随机森林也是不错的起点但务必通过交叉验证调整复杂度防止过拟合或欠拟合。交叉拟合的折数KK越大用于训练每个干扰参数模型的样本量越大估计可能更准但计算成本也越高。通常K5或10是一个好的权衡。一个重要的技巧是运行多次如J20次不同的随机划分然后取中位数作为最终CATE估计。这可以缓解单次划分可能导致的特定子群代表性不足的问题提升估计的稳定性。处理极端权重无论是mDR-learner中的1/(π(1-π)G)还是mEP-learner中的H_hat都可能产生极端大值当π或G接近0或1时。简单的裁剪如截断在1%和99%分位数是常用做法但会引入小偏差。更稳健的方法是使用修剪Trimming直接排除权重极端大的个体例如权重超过某个阈值如20并在分析中报告被排除的样本比例。mEP-learner通常比mDR-learner对极端权重更不敏感。筛基的选择仅mEP-learner筛基的维度和类型是关键的调优参数。维度太高可能导致过拟合太低可能无法捕捉CATE的复杂形状。余弦基在光滑性假设下理论性质好。实践中可以尝试不同的维度如3到10并通过针对CATE估计的交叉验证虽然不完全标准来选择或者参考领域知识。也可以考虑使用数据驱动的特征选择方法。最终CATE模型的选择伪结果回归步骤可以使用任何回归器。随机森林和梯度提升树因其能捕捉复杂交互和非线性而受欢迎。注意伪结果Y_mDR或Y_mEP通常方差较大。因此最终CATE模型应具有一定的平滑或正则化能力以稳定估计。避免使用高方差模型如深度神经网络而不加严格正则化。4. 模拟研究与真实世界应用分析理论性质需要实证检验。原论文通过系统的模拟研究在三种不同的数据生成过程DGP下对比了mDR/mEP-learner与多种基线方法的性能。4.1 模拟设置与基线方法模拟设置了三种具有挑战性的场景DGP 1 2简单的基线结果函数μ_0(Z)但CATE函数θ(X)非常复杂如高频振荡。缺失机制被设定为在处理组DGP 1或两组DGP 2的某些协变量区域有高缺失率。这直接考验估计器在数据稀疏区域学习复杂CATE的能力。DGP 3复杂的基线结果函数μ_0(Z)但CATE很简单。缺失主要发生在处理组。这考验的是估计器在存在强混淆和缺失时能否准确分离出简单的处理效应。对比的基线方法包括可用病例分析直接在完整病例C1上运行标准的DR-learner、EP-learner和T-learner。插补法先用模型如随机森林预测缺失的Y生成一个“完整”数据集然后在其上运行标准估计器。IPTW-IPCW估计器一种朴素加权方法直接对伪结果进行IPCW加权。评估指标是根均方中位数误差RMSME它比传统的RMSE对异常值更稳健更适合评估CATE估计。4.2 核心发现与解读模拟结果清晰地展示了mDR-learner和mEP-learner的优势vs. 可用病例分析在所有三种DGP下mDR-learner和mEP-learner都显著优于其对应的可用病例版本。特别是在CATE复杂且缺失严重的DGP 1和2中优势最为明显。这说明当缺失导致某些亚组数据稀疏时直接使用完整病例进行分析会导致CATE估计的严重失真而mDR/mEP-learner通过IPCW权重有效地校正了这种选择偏差。vs. 插补法在CATE复杂的场景DGP 1, 2中mDR/mEP-learner优于插补法。这是因为插补法引入了一个额外的干扰模型插补模型其估计误差会直接传递到CATE估计中增加了“插件偏差”。而在CATE简单的DGP 3中插补法表现尚可因为主要挑战来自复杂的基线结果函数而非CATE本身。稳定性对比mEP-learner和基于插补的EP-learner、T-learner通常比mDR-learner、DR-learner和IPTW-IPCW估计器产生更稳定的CATE估计方差更小。这是因为DR-learner类方法对极端倾向性评分和缺失权重更敏感容易产生极端伪结果。mEP-learner的靶向学习框架在一定程度上缓解了这个问题。IPTW-IPCW估计器的弱点它的表现高度依赖于倾向性评分模型和缺失机制模型的准确性。当这些模型复杂且难以准确估计时其性能会迅速下降验证了理论预期的“插件偏差”问题。实操心得模拟结果给我们的启示是没有放之四海而皆准的“最佳”估计器。如果你的领域知识或初步探索表明CATE可能非常复杂如与多个协变量有高阶交互且存在显著的、与协变量相关的缺失那么mDR-learner或mEP-learner应该是首选。如果CATE相对简单而缺失机制也很简单那么经过精心调优的插补法或可用病例分析也可能够用。mEP-learner在稳定性上通常更胜一筹尤其是在样本量不大或权重可能极端的情况下。4.3 真实世界案例GBSG2乳腺癌临床试验论文将方法应用于GBSG2试验数据比较激素疗法与非激素疗法对乳腺癌术后患者的复发风险影响。该数据存在失访缺失情况。分析展示了如何利用mDR-learner探索治疗效应在患者年龄、肿瘤大小等特征上的异质性。在实际操作这样的分析时应遵循以下流程因果图与假设审视首先绘制因果图明确协变量Z、处理A、结果Y和缺失指示C的关系。严格评估无混淆假设Z是否包含所有共同原因和MAR假设缺失C是否只依赖于观测到的A和Z。这是所有结论成立的基础。探索性数据分析详细分析缺失模式。计算不同A和关键Z分层下的缺失率。使用可视化如箱线图、分布图检查Z在C1和C0组间的分布差异。这能直观展示选择偏差的严重性。模型指定与诊断倾向性评分模型检查预测的倾向性评分分布评估重叠性。缺失机制模型检查预测的缺失概率G(A,Z)。确保没有概率接近0的区域正值性违犯。结果回归模型在完整病例中检查模型拟合优度。可以使用残差图等工具。权重诊断计算并可视化IPCW权重1/G(A,Z)的分布。检查极端值并决定是否进行修剪或裁剪。运行估计器与敏感性分析使用交叉拟合和多次重复运行mDR或mEP-learner。进行敏感性分析改变交叉拟合折数K、筛基维度mEP、干扰参数模型的算法如尝试线性模型 vs 树模型、权重处理方式裁剪 vs 修剪等观察CATE估计的稳定性。结果解释与不确定性量化绘制CATE估计图如对于连续变量X绘制θ(X)随X变化的曲线。谨慎对待不确定性如文中所述为基于机器学习的CATE估计提供有效的置信区间仍然是一个活跃的研究领域。可以尝试使用半样本自助法Half-Sample Bootstrap或基于影响函数的自助法来构造近似区间但需明白其覆盖概率可能在有限样本下不完美。报告结果时应同时展示点估计和区间估计并说明不确定性评估的方法及其局限性。重点关注有临床或实际意义的亚组如老年患者 vs 年轻患者报告其CATE估计及区间并讨论其实际含义。5. 常见陷阱、问题排查与进阶考量即使理解了原理和步骤在实际操作中依然会踩坑。下面是一些常见问题及解决思路。5.1 模型拟合失败与数值不稳定问题程序报错提示矩阵奇异、权重为无穷大或伪结果出现NaN/Inf。排查检查正值性确保倾向性评分π(Z)和缺失概率G(A,Z)的预测值没有过于接近0或1。使用np.clip(预测值, 1e-6, 1-1e-6)进行裁剪是基本操作。检查缺失模式如果某个(A, Z)组合下所有个体的C都为0即全部缺失那么G(A,Z)的估计将为0导致权重无穷大。这时需要重新审视MAR假设或考虑该亚组是否应被排除在分析之外并报告。检查共线性在拟合缺失机制模型或结果回归模型时如果协变量Z高度共线性可能导致模型拟合不稳定。考虑使用正则化模型如Lasso、弹性网络或进行特征选择。mEP-learner的筛基如果筛基φ(X)的列之间高度相关加权线性回归可能失败。可以尝试使用正则化回归如岭回归代替普通最小二乘或者在构造筛基时使用正交多项式基。5.2 估计结果不理想高误差、不稳定问题CATE估计的误差很大或者在不同次运行不同随机种子间变化剧烈。排查与优化干扰参数模型性能这是最常见的原因。用交叉验证检查π(Z)、G(A,Z)、μ_a(Z)模型的预测性能。如果μ_a(Z)在完整病例上拟合都很差那CATE估计不可能好。考虑使用更灵活的模型如梯度提升树或超级学习器。样本量不足mDR/mEP-learner需要估计多个干扰参数对样本量要求高。如果样本量小考虑使用更简单的参数模型如逻辑回归、线性回归作为干扰参数模型以减少方差。极端权重检查IPCW权重的分布。如果存在少数极大权重它们会主导伪结果回归导致估计不稳定。实施权重修剪例如将权重上限设为20或50并报告修剪比例。比较修剪前后的结果。最终CATE模型过拟合伪结果噪声大。确保用于最终回归的模型有足够的正则化。对于随机森林增加min_samples_leaf对于梯度提升树增加min_child_weight或使用更强的subsample。交叉拟合与重复增加交叉拟合的重复次数J如从20增加到50取中位数作为最终估计可以有效平滑由于单次数据划分带来的随机波动。5.3 如何选择mDR-learner还是mEP-learner这是一个实践中的关键选择。下表总结了二者的主要特点特性mDR-learnermEP-learner核心框架基于影响函数的伪结果回归基于无限维靶向学习iTMLE伪结果稳定性对极端倾向性评分/缺失权重敏感伪结果方差可能较大通过靶向修正通常产生更稳定的伪结果和CATE估计关键调参相对较少主要是干扰参数模型和最终回归模型额外需要选择筛基φ(X)的类型和维度计算复杂度相对较低稍高因为多了一个加权线性回归步骤适用场景CATE函数非常复杂、非光滑或稀疏筛基难以近似时可能更有优势当倾向性评分或缺失概率存在极端值需要更稳定估计时当CATE相对光滑能被筛基较好近似时经验建议作为基线首选如果发现估计方差过大再尝试mEP-learner如果担心权重不稳定或希望获得更平滑的CATE曲线可作为首选建议在实际项目中如果计算资源允许可以同时运行两者。通过比较它们在不同数据划分下的稳定性例如计算多次重复运行后CATE估计的个体间方差以及检查它们得出的异质性模式是否一致来辅助决策。如果两者结论相似可以优先报告更稳定的mEP-learner结果。5.4 超越MAR当缺失机制更复杂时本文聚焦于MAR假设。但如果缺失是非随机MNAR的即缺失概率依赖于未观测到的结果Y本身那么无论是可用病例分析还是IPCW方法都会产生有偏估计。此时mDR/mEP-learner也无法解决根本问题。实践中这要求研究者进行敏感性分析例如使用模式混合模型Pattern Mixture Models或选择模型Selection Models在一系列合理的MNAR假设下检验CATE估计的稳健性。收集补充信息尽可能收集与缺失原因相关的辅助变量尝试使其满足MAR。明确报告假设在论文或报告中必须清晰陈述MAR假设并讨论如果该假设不成立结论可能如何变化。5.5 评估与验证的挑战在真实数据中我们永远无法观测到个体的真实CATE。因此评估估计器的性能极具挑战性。基于模拟的验证在已知真实CATE的模拟数据上运行你的流程计算RMSME等误差指标。这是评估方法性能和调参最可靠的方式。稳定性评估在真实数据中多次运行估计器不同随机种子计算每个个体CATE估计的标准差或范围。稳定性高的估计更可信。协变量平衡检验在加权后使用IPCW权重检查处理组和对照组之间协变量的分布是否更平衡。这间接支持了权重校正了选择偏差。预测检验虽然不能检验CATE本身但可以检验预测的潜在结果。例如在完整病例中比较模型预测的μ_a(Z)与实际观测到的Y的校准情况。处理缺失数据的因果机器学习是一个前沿且实用的领域。mDR-learner和mEP-learner提供了强大的工具但它们不是黑箱。成功应用它们依赖于对因果假设的深刻理解、对数据缺失机制的仔细探查、对模型细节的耐心调试以及对结果谨慎而全面的解释。从探索性分析开始逐步构建你的分析流程进行充分的敏感性分析你就能从存在缺失的不完美数据中挖掘出更可靠、更具洞察力的异质性处理效应信息。
缺失数据下的因果推断：mDR-learner与mEP-learner原理与实战
发布时间：2026/5/24 14:19:09
1. 项目概述与核心挑战在因果推断的实际应用中我们常常想知道一个干预措施比如一种新药、一项政策对不同人的效果是否一样。这就是异质性处理效应CATE估计要回答的问题。理想情况下我们希望为每个个体或亚组都得到一个精准的“效果画像”从而指导个性化决策。近年来以DR-learner和EP-learner为代表的因果机器学习方法通过结合高效影响函数Influence Functions和双重稳健Doubly Robust等思想在估计CATE方面展现出了强大的潜力。它们能有效利用高维数据处理复杂的非线性关系并且对倾向性评分等干扰参数模型的误设有一定的稳健性。然而现实世界的数据很少是完美的。一个几乎在所有观察性研究甚至部分随机试验中都会遇到的“拦路虎”就是结果数据的缺失。例如在临床试验的长期随访中部分患者可能失访在社会调查中部分受访者可能拒绝回答关键问题。当这种缺失并非完全随机而是与某些可观测的协变量相关时即满足随机缺失Missing at Random, MAR假设时问题就变得棘手了。传统的CATE估计器无论是简单的T-learner还是更复杂的DR-learner通常默认使用完整病例Available Cases进行分析。这看似直接实则暗藏风险在缺失比例较高的亚组中可用的样本量会急剧减少。机器学习模型为了在这些数据稀疏的区域防止过拟合会倾向于进行过度平滑Over-smoothing从而导致对这些亚组的CATE估计产生严重偏差或者完全无法捕捉到该亚组内真实存在的效应异质性。这就好比我们想绘制一幅全国地形图但西部地区的数据点大量缺失绘图算法只能根据东部密集的数据点“猜”西部的地形结果很可能把高原画成了平原。为了解决这个问题一个直观的想法是利用逆概率删失加权Inverse Probability of Censoring Weights, IPCW。IPCW的核心思想是给那些结果被观测到的个体赋予更高的权重这个权重是其“结果被观测到”的概率的倒数。这样在加权后的样本中协变量的分布就能更好地代表原始目标人群从而校正因缺失导致的样本选择偏差。但简单地将IPCW权重与现有的CATE估计器如IPTW-IPCW估计器结合会引入新的问题IPCW权重本身需要用一个模型缺失机制模型来估计而这个模型的估计误差会直接传递到最终的CATE估计中造成所谓的“插件偏差”Plug-in Bias。特别是当使用灵活但收敛速度相对较慢的机器学习算法来估计缺失机制时这种偏差在有限样本下可能非常显著。正是在这样的背景下mDR-learner和mEP-learner被提出。它们不是简单地将IPCW作为事后加权的工具而是从底层原理出发在高效影响函数的框架下将缺失数据机制自然地、有机地整合到估计器的构造中。其目标是构建出对缺失机制模型估计误差更不敏感即更稳健的估计器即使在缺失存在的情况下也能实现“神谕效率”Oracle Efficiency——即当干扰参数如倾向性评分、结果回归模型、缺失机制模型的估计收敛速度足够快时最终CATE估计器的表现能媲美这些干扰参数已知时的最优表现。接下来我们将深入拆解这两个估计器的设计思路、实现细节并分享在实际操作中的关键决策与避坑经验。2. 核心原理从完整数据到缺失数据的桥梁构建要理解mDR-learner和mEP-learner我们必须先回到它们的“原型”——DR-learner和EP-learner在完整数据下的工作原理然后看缺失数据如何改变了游戏规则以及新估计器如何巧妙地搭建起连接的桥梁。2.1 完整数据下的基石DR-learner与EP-learner在无缺失数据的情况下我们的观测数据是O (Z, A, Y)。DR-learner的核心是一个两阶段过程构造伪结果Pseudo-outcome利用高效影响函数的思想构造一个名为Y_DR的伪结果变量。其公式为Y_DR (A - π(Z)) / [π(Z)(1-π(Z))] * (Y - μ_A(Z)) (μ_1(Z) - μ_0(Z))其中π(Z)是倾向性评分μ_a(Z) E[Y|Aa, Z]是潜在结果回归函数。这个伪结果的神奇之处在于它的条件期望E[Y_DR | X]恰好等于我们想要的CATE即θ(X)。更重要的是它的构造方式使得最终CATE估计的误差对π(Z)和μ_a(Z)的估计误差的敏感度是它们误差的乘积级而非简单的加和。这意味着只要两个干扰参数模型有一个估计得比较准最终结果就不会太差这就是“双重稳健”性的体现。回归伪结果将第一步得到的伪结果Y_DR对我们关心的异质性变量X进行回归得到的预测函数就是CATE的估计θ(X)。EP-learner则采用了靶向学习Targeted Learning框架特别是无限维靶向最大似然估计iTMLE。它同样先获得初始的干扰参数估计然后通过一个“靶向修正”步骤来更新结果回归函数μ_a(Z)。这个修正步骤通过一个加权的线性回归实现其权重和偏移量的设计灵感同样来源于CATE的MSE风险函数的高效影响函数。修正后的结果函数之差μ_1*(Z) - μ_0*(Z)被用作伪结果再对X回归得到CATE。iTMLE的优势在于能更好地处理极端倾向性评分通常能产生更稳定的估计。2.2 缺失数据带来的根本变化与识别挑战当结果Y可能缺失时我们引入缺失指示符CC1表示观测到。数据变为O (Z, A, C, C*Y)。此时要识别CATE除了常规的因果假设一致性、无混淆、正值性还需增加关于缺失机制的假设随机缺失MAR给定处理A和协变量Z缺失C与结果Y独立。即P(C1 | Y, A, Z) P(C1 | A, Z)。这意味着缺失只依赖于观测到的变量。缺失机制的正值性对于所有可能的(A, Z)都有P(C1 | A, Z) 0。即每个人都有被观测到结果的正概率。在这两个额外假设下CATE的识别公式发生了变化。以基于回归的识别为例它不再是简单地用全人群估计E[Y|A1, Z]而是必须限制在完整病例中并条件于Zθ(x) E[ E[Y | A1, C1, Z] - E[Y | A0, C1, Z] | Xx ]这个公式清晰地揭示了一个问题我们最终依赖的是子人群C1中的条件期望。如果缺失机制P(C1 | A, Z)在不同(A, Z)组合间差异很大那么完整病例样本的协变量分布(Z | C1)将与目标人群的分布(Z)产生系统性偏差。直接用这个有偏的样本来训练机器学习模型μ_a(Z) E[Y | Aa, C1, Z]模型在缺失率高即P(C1|A,Z)小的区域会因数据稀疏而表现不佳从而导致该区域的CATE估计失真。2.3 mDR-learner与mEP-learner的革新将IPCW内生于影响函数面对上述挑战mDR-learner和mEP-learner的解决思路不是外在地对样本进行加权而是内在地修改估计器的构造目标——即CATE的MSE风险函数。当存在缺失时这个风险函数的定义也变了它必须考虑只有C1的个体贡献了Y的信息。mDR-learner的核心创新在于它推导了在MAR假设下CATE的MSE风险函数所对应的新的高效影响函数EIF。这个新的EIF中自然包含了逆概率删失权重G(A, Z) P(C1 | A, Z)。基于这个新的EIFmDR-learner的伪结果公式演变为Y_mDR [ (A - π(Z)) * C ] / [ π(Z)(1-π(Z)) * G(A, Z) ] * (Y - μ_A(Z)) (μ_1(Z) - μ_0(Z))与标准的Y_DR相比分子多了一个C确保只有观测到结果的个体才进入纠偏项分母多了一个G(A, Z)。这个权重1/G(A, Z)正是IPCW权重。它起到了双重作用一是纠偏校正因Y缺失带来的估计偏差二是稳定方差通过给那些“稀有”的即G(A,Z)小的、但结果被观测到的个体赋予更高权重来平衡样本分布。mEP-learner的思路一脉相承。它修改了iTMLE靶向修正步骤中的权重。在完整数据的EP-learner中用于加权回归的“聪明协变量”权重是H(A, Z) A/π(Z) (1-A)/(1-π(Z))。在mEP-learner中这个权重被扩展为H(A, C, Z) C * [ A/(G(A,Z)π(Z)) (1-A)/(G(A,Z)(1-π(Z)) ]这个新的权重同样融入了C和G(A,Z)确保在存在缺失的情况下靶向修正步骤能够有效地将插件偏差归零。关键理解这种“内生”整合的方式相较于外在地对样本或伪结果进行加权在理论上有显著优势。它保证了估计器仍然基于一个明确定义的风险函数考虑缺失的MSE的EIF构建。因此mDR/mEP-learner继承了原型估计器的优良性质特别是关于“神谕效率”的性质。具体来说只要干扰参数模型π(Z),μ_a(Z),G(A,Z)的估计误差收敛速度的乘积快于神谕CATE估计器本身的收敛速度那么mDR/mEP-learner的最终误差就主要由伪结果对X的回归误差决定而对单个干扰参数模型的估计误差不敏感。这为我们在实践中使用灵活的机器学习算法来拟合这些复杂模型提供了理论保障。3. 实操指南从理论到代码的实现细节理解了原理下一步就是动手实现。这里我将结合常见的Python数据科学栈如sklearn,statsmodels详细拆解实现mDR-learner的关键步骤并对比说明mEP-learner的实现差异。我们假设你已经有了一个数据集df包含列Z1,Z2, ...协变量A处理0/1C缺失指示1观测到0缺失Y结果缺失处为NaN。3.1 mDR-learner的实现步骤与代码剖析mDR-learner的算法可以清晰地分为以下几步交叉拟合Cross-fitting贯穿其中以保障估计的无偏性。步骤一数据准备与交叉拟合划分首先将数据随机划分为K折例如K5或10。交叉拟合的目的是确保用于估计干扰参数的样本与用于构造伪结果的样本是独立的防止过拟合导致的乐观偏差。import numpy as np import pandas as pd from sklearn.model_selection import KFold def prepare_cross_fitting(df, n_splits5, random_state42): kf KFold(n_splitsn_splits, shuffleTrue, random_staterandom_state) fold_assignments np.zeros(len(df), dtypeint) for fold_idx, (_, test_idx) in enumerate(kf.split(df)): fold_assignments[test_idx] fold_idx df[fold] fold_assignments return df步骤二估计干扰参数模型对于每一折k我们使用其他所有折的数据来训练三个关键模型倾向性评分模型π(Z): 预测P(A1 | Z)。可以使用逻辑回归、随机森林或Super Learner。缺失机制模型G(A, Z): 预测P(C1 | A, Z)。同样是一个分类模型。结果回归模型μ_0(Z)和μ_1(Z): 预测E[Y | Aa, C1, Z]。注意这里训练数据仅使用C1且Aa的样本。对于连续Y可用回归模型对于二分类Y用分类模型预测概率。from sklearn.ensemble import RandomForestClassifier, RandomForestRegressor from sklearn.linear_model import LogisticRegression # 假设使用随机森林实际中建议用Super Learner或进行超参数调优 def train_nuisance_models(df_train): # 倾向性评分模型 ps_model RandomForestClassifier(n_estimators100, random_state42) ps_model.fit(df_train[[Z1, Z2]], df_train[A]) # 缺失机制模型 missing_model RandomForestClassifier(n_estimators100, random_state42) missing_model.fit(df_train[[A, Z1, Z2]], df_train[C]) # 结果回归模型 (仅用完整病例) df_train_complete df_train[df_train[C]1] # 处理组结果模型 df_train_treated df_train_complete[df_train_complete[A]1] outcome_model_1 RandomForestRegressor(n_estimators100, random_state42) outcome_model_1.fit(df_train_treated[[Z1, Z2]], df_train_treated[Y]) # 控制组结果模型 df_train_control df_train_complete[df_train_complete[A]0] outcome_model_0 RandomForestRegressor(n_estimators100, random_state42) outcome_model_0.fit(df_train_control[[Z1, Z2]], df_train_control[Y]) return ps_model, missing_model, outcome_model_0, outcome_model_1步骤三预测与构造伪结果对于第k折的样本使用步骤二中训练的模型进行预测并计算伪结果Y_mDR。def calculate_pseudo_outcome_mdr(row, ps_model, missing_model, outcome_model_0, outcome_model_1): Z row[[Z1, Z2]].values.reshape(1, -1) A row[A] C row[C] Y row[Y] # 预测 pi_hat ps_model.predict_proba(Z)[0, 1] # P(A1|Z) g_hat missing_model.predict_proba([[A, row[Z1], row[Z2]]])[0, 1] # P(C1|A,Z) mu_0_hat outcome_model_0.predict(Z)[0] mu_1_hat outcome_model_1.predict(Z)[0] mu_A_hat A * mu_1_hat (1-A) * mu_0_hat # 核心计算伪结果 # 注意处理除零问题当 pi_hat 接近 0/1 或 g_hat 接近 0 时 epsilon 1e-6 pi_hat np.clip(pi_hat, epsilon, 1-epsilon) g_hat np.clip(g_hat, epsilon, 1) if C 1 and not np.isnan(Y): drift_term ((A - pi_hat) * C) / (pi_hat * (1 - pi_hat) * g_hat) * (Y - mu_A_hat) else: # 对于缺失Y的个体纠偏项为0因为Y未知。但μ_a(Z)仍可预测。 drift_term 0 pseudo_outcome drift_term (mu_1_hat - mu_0_hat) return pseudo_outcome步骤四回归伪结果得到CATE将所有折的伪结果合并得到一个完整的数据集其中每个个体都有一个伪结果Y_mDR。最后将Y_mDR对感兴趣的异质性变量X通常是Z的一个子集进行回归。这个回归模型可以是任何你喜欢的机器学习模型比如随机森林、梯度提升树或神经网络。模型的预测值就是个体层面的CATE估计θ(X)。from sklearn.ensemble import RandomForestRegressor # 假设df_full已经包含了所有样本计算出的pseudo_outcome列 X_features df_full[[Z1, Z2]] # 这里XZ实际中可能只是Z的子集 cate_model RandomForestRegressor(n_estimators200, random_state42) cate_model.fit(X_features, df_full[pseudo_outcome]) # 预测CATE df_full[cate_estimate] cate_model.predict(X_features)3.2 mEP-learner的实现差异与关键点mEP-learner的前两步数据划分、干扰参数估计与mDR-learner完全相同。关键区别在于第三步的“靶向修正”和伪结果构造。计算聪明协变量Clever Covariate权重对于每个观测到结果的个体C1计算权重H_hat C * [ A/(g_hat * pi_hat) (1-A)/(g_hat * (1-pi_hat)) ]。同样需要裁剪防止除零。选择筛基Sieve Basis这是iTMLE的核心。我们需要一组基函数φ(X)来近似CATE函数θ(X)。常见选择是余弦多项式基或多项式基。例如如果X一维的我们可以定义φ(X) [1, cos(πX), cos(2πX), ..., cos(dπX)]其中d是维度。靶向修正回归以初始结果预测μ_A_hat为偏移量offset以H_hat为权重对观测到的结果Y关于筛基φ(X)进行加权线性回归。这个回归只使用C1的样本。import statsmodels.api as sm # 假设已为每个个体计算了 mu_A_hat, H_hat并构建了筛基矩阵 phi_X df_complete df[df[C]1].copy() # 加权线性回归无截距项因为偏移量已包含均值信息 model_wls sm.WLS(df_complete[Y] - df_complete[mu_A_hat], df_complete[phi_columns], weightsdf_complete[H_hat]) result model_wls.fit() epsilon_hat result.params # 回归系数更新结果预测利用估计的系数ε_hat更新潜在结果预测。μ_1*_hat μ_1_hat ε_hat · φ(X)μ_0*_hat μ_0_hat - ε_hat · φ(X)注意符号μ_1是加μ_0是减这确保了(μ_1* - μ_0*) (μ_1 - μ_0) 2 * ε_hat · φ(X)从而让更新后的差异更接近最优的CATE。构造伪结果并回归伪结果就是更新后的差异Y_mEP μ_1*_hat - μ_0*_hat。然后将Y_mEP对X回归得到最终的CATE估计步骤与mDR-learner的步骤四一致。3.3 实操中的关键决策与经验分享干扰参数模型的选择理论要求它们收敛速度快。实践中超级学习器Super Learner是黄金标准。它通过交叉验证组合多个基学习器如线性模型、树模型、平滑样条等能渐进地达到候选库中最佳学习器的性能。如果计算资源有限弹性网络、梯度提升树或随机森林也是不错的起点但务必通过交叉验证调整复杂度防止过拟合或欠拟合。交叉拟合的折数KK越大用于训练每个干扰参数模型的样本量越大估计可能更准但计算成本也越高。通常K5或10是一个好的权衡。一个重要的技巧是运行多次如J20次不同的随机划分然后取中位数作为最终CATE估计。这可以缓解单次划分可能导致的特定子群代表性不足的问题提升估计的稳定性。处理极端权重无论是mDR-learner中的1/(π(1-π)G)还是mEP-learner中的H_hat都可能产生极端大值当π或G接近0或1时。简单的裁剪如截断在1%和99%分位数是常用做法但会引入小偏差。更稳健的方法是使用修剪Trimming直接排除权重极端大的个体例如权重超过某个阈值如20并在分析中报告被排除的样本比例。mEP-learner通常比mDR-learner对极端权重更不敏感。筛基的选择仅mEP-learner筛基的维度和类型是关键的调优参数。维度太高可能导致过拟合太低可能无法捕捉CATE的复杂形状。余弦基在光滑性假设下理论性质好。实践中可以尝试不同的维度如3到10并通过针对CATE估计的交叉验证虽然不完全标准来选择或者参考领域知识。也可以考虑使用数据驱动的特征选择方法。最终CATE模型的选择伪结果回归步骤可以使用任何回归器。随机森林和梯度提升树因其能捕捉复杂交互和非线性而受欢迎。注意伪结果Y_mDR或Y_mEP通常方差较大。因此最终CATE模型应具有一定的平滑或正则化能力以稳定估计。避免使用高方差模型如深度神经网络而不加严格正则化。4. 模拟研究与真实世界应用分析理论性质需要实证检验。原论文通过系统的模拟研究在三种不同的数据生成过程DGP下对比了mDR/mEP-learner与多种基线方法的性能。4.1 模拟设置与基线方法模拟设置了三种具有挑战性的场景DGP 1 2简单的基线结果函数μ_0(Z)但CATE函数θ(X)非常复杂如高频振荡。缺失机制被设定为在处理组DGP 1或两组DGP 2的某些协变量区域有高缺失率。这直接考验估计器在数据稀疏区域学习复杂CATE的能力。DGP 3复杂的基线结果函数μ_0(Z)但CATE很简单。缺失主要发生在处理组。这考验的是估计器在存在强混淆和缺失时能否准确分离出简单的处理效应。对比的基线方法包括可用病例分析直接在完整病例C1上运行标准的DR-learner、EP-learner和T-learner。插补法先用模型如随机森林预测缺失的Y生成一个“完整”数据集然后在其上运行标准估计器。IPTW-IPCW估计器一种朴素加权方法直接对伪结果进行IPCW加权。评估指标是根均方中位数误差RMSME它比传统的RMSE对异常值更稳健更适合评估CATE估计。4.2 核心发现与解读模拟结果清晰地展示了mDR-learner和mEP-learner的优势vs. 可用病例分析在所有三种DGP下mDR-learner和mEP-learner都显著优于其对应的可用病例版本。特别是在CATE复杂且缺失严重的DGP 1和2中优势最为明显。这说明当缺失导致某些亚组数据稀疏时直接使用完整病例进行分析会导致CATE估计的严重失真而mDR/mEP-learner通过IPCW权重有效地校正了这种选择偏差。vs. 插补法在CATE复杂的场景DGP 1, 2中mDR/mEP-learner优于插补法。这是因为插补法引入了一个额外的干扰模型插补模型其估计误差会直接传递到CATE估计中增加了“插件偏差”。而在CATE简单的DGP 3中插补法表现尚可因为主要挑战来自复杂的基线结果函数而非CATE本身。稳定性对比mEP-learner和基于插补的EP-learner、T-learner通常比mDR-learner、DR-learner和IPTW-IPCW估计器产生更稳定的CATE估计方差更小。这是因为DR-learner类方法对极端倾向性评分和缺失权重更敏感容易产生极端伪结果。mEP-learner的靶向学习框架在一定程度上缓解了这个问题。IPTW-IPCW估计器的弱点它的表现高度依赖于倾向性评分模型和缺失机制模型的准确性。当这些模型复杂且难以准确估计时其性能会迅速下降验证了理论预期的“插件偏差”问题。实操心得模拟结果给我们的启示是没有放之四海而皆准的“最佳”估计器。如果你的领域知识或初步探索表明CATE可能非常复杂如与多个协变量有高阶交互且存在显著的、与协变量相关的缺失那么mDR-learner或mEP-learner应该是首选。如果CATE相对简单而缺失机制也很简单那么经过精心调优的插补法或可用病例分析也可能够用。mEP-learner在稳定性上通常更胜一筹尤其是在样本量不大或权重可能极端的情况下。4.3 真实世界案例GBSG2乳腺癌临床试验论文将方法应用于GBSG2试验数据比较激素疗法与非激素疗法对乳腺癌术后患者的复发风险影响。该数据存在失访缺失情况。分析展示了如何利用mDR-learner探索治疗效应在患者年龄、肿瘤大小等特征上的异质性。在实际操作这样的分析时应遵循以下流程因果图与假设审视首先绘制因果图明确协变量Z、处理A、结果Y和缺失指示C的关系。严格评估无混淆假设Z是否包含所有共同原因和MAR假设缺失C是否只依赖于观测到的A和Z。这是所有结论成立的基础。探索性数据分析详细分析缺失模式。计算不同A和关键Z分层下的缺失率。使用可视化如箱线图、分布图检查Z在C1和C0组间的分布差异。这能直观展示选择偏差的严重性。模型指定与诊断倾向性评分模型检查预测的倾向性评分分布评估重叠性。缺失机制模型检查预测的缺失概率G(A,Z)。确保没有概率接近0的区域正值性违犯。结果回归模型在完整病例中检查模型拟合优度。可以使用残差图等工具。权重诊断计算并可视化IPCW权重1/G(A,Z)的分布。检查极端值并决定是否进行修剪或裁剪。运行估计器与敏感性分析使用交叉拟合和多次重复运行mDR或mEP-learner。进行敏感性分析改变交叉拟合折数K、筛基维度mEP、干扰参数模型的算法如尝试线性模型 vs 树模型、权重处理方式裁剪 vs 修剪等观察CATE估计的稳定性。结果解释与不确定性量化绘制CATE估计图如对于连续变量X绘制θ(X)随X变化的曲线。谨慎对待不确定性如文中所述为基于机器学习的CATE估计提供有效的置信区间仍然是一个活跃的研究领域。可以尝试使用半样本自助法Half-Sample Bootstrap或基于影响函数的自助法来构造近似区间但需明白其覆盖概率可能在有限样本下不完美。报告结果时应同时展示点估计和区间估计并说明不确定性评估的方法及其局限性。重点关注有临床或实际意义的亚组如老年患者 vs 年轻患者报告其CATE估计及区间并讨论其实际含义。5. 常见陷阱、问题排查与进阶考量即使理解了原理和步骤在实际操作中依然会踩坑。下面是一些常见问题及解决思路。5.1 模型拟合失败与数值不稳定问题程序报错提示矩阵奇异、权重为无穷大或伪结果出现NaN/Inf。排查检查正值性确保倾向性评分π(Z)和缺失概率G(A,Z)的预测值没有过于接近0或1。使用np.clip(预测值, 1e-6, 1-1e-6)进行裁剪是基本操作。检查缺失模式如果某个(A, Z)组合下所有个体的C都为0即全部缺失那么G(A,Z)的估计将为0导致权重无穷大。这时需要重新审视MAR假设或考虑该亚组是否应被排除在分析之外并报告。检查共线性在拟合缺失机制模型或结果回归模型时如果协变量Z高度共线性可能导致模型拟合不稳定。考虑使用正则化模型如Lasso、弹性网络或进行特征选择。mEP-learner的筛基如果筛基φ(X)的列之间高度相关加权线性回归可能失败。可以尝试使用正则化回归如岭回归代替普通最小二乘或者在构造筛基时使用正交多项式基。5.2 估计结果不理想高误差、不稳定问题CATE估计的误差很大或者在不同次运行不同随机种子间变化剧烈。排查与优化干扰参数模型性能这是最常见的原因。用交叉验证检查π(Z)、G(A,Z)、μ_a(Z)模型的预测性能。如果μ_a(Z)在完整病例上拟合都很差那CATE估计不可能好。考虑使用更灵活的模型如梯度提升树或超级学习器。样本量不足mDR/mEP-learner需要估计多个干扰参数对样本量要求高。如果样本量小考虑使用更简单的参数模型如逻辑回归、线性回归作为干扰参数模型以减少方差。极端权重检查IPCW权重的分布。如果存在少数极大权重它们会主导伪结果回归导致估计不稳定。实施权重修剪例如将权重上限设为20或50并报告修剪比例。比较修剪前后的结果。最终CATE模型过拟合伪结果噪声大。确保用于最终回归的模型有足够的正则化。对于随机森林增加min_samples_leaf对于梯度提升树增加min_child_weight或使用更强的subsample。交叉拟合与重复增加交叉拟合的重复次数J如从20增加到50取中位数作为最终估计可以有效平滑由于单次数据划分带来的随机波动。5.3 如何选择mDR-learner还是mEP-learner这是一个实践中的关键选择。下表总结了二者的主要特点特性mDR-learnermEP-learner核心框架基于影响函数的伪结果回归基于无限维靶向学习iTMLE伪结果稳定性对极端倾向性评分/缺失权重敏感伪结果方差可能较大通过靶向修正通常产生更稳定的伪结果和CATE估计关键调参相对较少主要是干扰参数模型和最终回归模型额外需要选择筛基φ(X)的类型和维度计算复杂度相对较低稍高因为多了一个加权线性回归步骤适用场景CATE函数非常复杂、非光滑或稀疏筛基难以近似时可能更有优势当倾向性评分或缺失概率存在极端值需要更稳定估计时当CATE相对光滑能被筛基较好近似时经验建议作为基线首选如果发现估计方差过大再尝试mEP-learner如果担心权重不稳定或希望获得更平滑的CATE曲线可作为首选建议在实际项目中如果计算资源允许可以同时运行两者。通过比较它们在不同数据划分下的稳定性例如计算多次重复运行后CATE估计的个体间方差以及检查它们得出的异质性模式是否一致来辅助决策。如果两者结论相似可以优先报告更稳定的mEP-learner结果。5.4 超越MAR当缺失机制更复杂时本文聚焦于MAR假设。但如果缺失是非随机MNAR的即缺失概率依赖于未观测到的结果Y本身那么无论是可用病例分析还是IPCW方法都会产生有偏估计。此时mDR/mEP-learner也无法解决根本问题。实践中这要求研究者进行敏感性分析例如使用模式混合模型Pattern Mixture Models或选择模型Selection Models在一系列合理的MNAR假设下检验CATE估计的稳健性。收集补充信息尽可能收集与缺失原因相关的辅助变量尝试使其满足MAR。明确报告假设在论文或报告中必须清晰陈述MAR假设并讨论如果该假设不成立结论可能如何变化。5.5 评估与验证的挑战在真实数据中我们永远无法观测到个体的真实CATE。因此评估估计器的性能极具挑战性。基于模拟的验证在已知真实CATE的模拟数据上运行你的流程计算RMSME等误差指标。这是评估方法性能和调参最可靠的方式。稳定性评估在真实数据中多次运行估计器不同随机种子计算每个个体CATE估计的标准差或范围。稳定性高的估计更可信。协变量平衡检验在加权后使用IPCW权重检查处理组和对照组之间协变量的分布是否更平衡。这间接支持了权重校正了选择偏差。预测检验虽然不能检验CATE本身但可以检验预测的潜在结果。例如在完整病例中比较模型预测的μ_a(Z)与实际观测到的Y的校准情况。处理缺失数据的因果机器学习是一个前沿且实用的领域。mDR-learner和mEP-learner提供了强大的工具但它们不是黑箱。成功应用它们依赖于对因果假设的深刻理解、对数据缺失机制的仔细探查、对模型细节的耐心调试以及对结果谨慎而全面的解释。从探索性分析开始逐步构建你的分析流程进行充分的敏感性分析你就能从存在缺失的不完美数据中挖掘出更可靠、更具洞察力的异质性处理效应信息。
