1. 项目概述当持续学习遇上概念瓶颈最近在跟进持续学习领域的研究发现一个挺有意思的趋势大家开始不满足于模型仅仅“记住”任务而是希望它能像人一样理解任务背后的“概念”。这让我想起了之前做的一个项目当时我们就在头疼模型在学完新任务后旧任务性能掉得厉害也就是经典的灾难性遗忘问题。常规的基于正则化或回放的方法虽然有效但总觉得模型学得有点“死记硬背”缺乏可解释性出了问题也不知道从哪儿查起。直到我看到“CI-CBM”这个思路它把“概念瓶颈模型”和“蒸馏正则化”揉到了一起来解决持续学习的问题。简单来说CBM强迫模型先学习人类可理解的概念比如图像分类中“有翅膀”、“有喙”、“是黄色的”再用这些概念去预测最终标签。而CI-CBM则是在持续学习的动态环境下让模型不仅记住旧任务的概念知识还能把学到的概念“蒸馏”给后续的新模型实现知识在概念层面的持续积累。这听起来就比单纯约束参数变化或者回放几个旧样本要高级得多因为它试图让模型构建一个稳定且可解释的概念知识体系。这篇文章我就结合自己的理解和一些实验设想来拆解一下CI-CBM这个方法。它到底是怎么把概念学习和持续学习结合起来的蒸馏正则化在这里扮演了什么角色在实际操作中又会遇到哪些预料之外的坑如果你也在做模型持续学习、可解释性AI或者对让AI拥有更接近人类的“概念化”学习能力感兴趣那接下来的内容应该能给你一些直接的参考。2. 核心组件拆解概念瓶颈与蒸馏正则化如何协同工作要搞懂CI-CBM得先把它拆开看看两个核心部件——“概念瓶颈模型”和“蒸馏正则化”——各自是干什么的以及它们是怎么被组装起来的。这就像组装一台精密仪器你得先熟悉每个齿轮的用途。2.1 概念瓶颈模型给模型装上“概念滤镜”概念瓶颈模型的核心思想非常直观在输入如图像和最终输出如“金丝雀”之间强行插入一个由人类可解释的“概念”组成的中间层。模型的学习过程被分成了两步概念预测从输入数据中预测一系列预设的概念标签。例如给定一张鸟的图片模型需要先判断“是否有翅膀”是、“是否有喙”是、“是否是黄色”是。标签预测基于上一步预测出的概念向量来预测最终的分类标签如“金丝雀”。这么做有几个巨大的好处尤其是在持续学习的语境下可解释性模型为什么判断这是金丝雀因为它“看到”了翅膀、喙和黄色。如果模型判断错了我们可以追溯到是哪个概念预测错了比如误判了颜色从而进行有针对性的调试或数据补充。知识结构化概念层实际上构建了一个比原始像素更高级、更稳定的特征空间。不同任务可能共享相同的概念“翅膀”这个概念对识别“鹰”和“鹦鹉”都有用这为知识迁移提供了天然的基础。数据效率理论上一旦模型学会了“翅膀”这个概念它在学习任何需要“翅膀”概念的新任务时都可以直接复用而不需要从头学习。在持续学习场景中CBM的挑战在于当新任务到来时我们不仅要让模型学会新任务特有的概念比如识别“汽车”需要“有车轮”这个概念还要保证旧任务的概念比如“有羽毛”不被遗忘或扭曲。这就是CI-CBM需要解决的核心问题之一。2.2 蒸馏正则化让新老师向旧老师学习“教学理念”蒸馏正则化是持续学习中缓解遗忘的一把利器其思想来源于知识蒸馏。它不是直接保存旧模型的参数那样会严重限制新任务的学习能力也不是简单保存旧数据可能涉及隐私或存储开销而是让新模型学生在向新任务数据学习的同时模仿旧模型老师在相同或相似输入上的“行为”。具体来说通常使用KL散度作为损失函数的一部分L_distill KL( σ(T_old(x) / τ) || σ(T_new(x) / τ) )其中T_old和T_new分别是旧模型和新模型的输出logitsσ是softmax函数τ是温度参数用于平滑概率分布让“暗知识”也得以传递。在CI-CBM中蒸馏正则化有了新的用武之地。我们不仅仅在最终的输出层进行蒸馏更重要的是在概念层进行蒸馏。这意味着新模型在预测概念时不仅要尽量准确针对新任务数据其预测的概念概率分布还要尽量向旧模型预测的概念分布靠拢。这样做的好处是保护概念知识即使新任务的数据中没有“羽毛”相关的样本通过概念层蒸馏模型也能保持对“羽毛”这个概念的预测能力因为它被要求模仿旧模型对这个概念的“看法”。解耦学习模型对概念的理解和对概念-标签映射关系的理解可以被分开约束。我们可以对概念预测器施加较强的蒸馏正则化以保护概念知识而对最终的分类头施加相对较弱或动态的约束以适应新旧任务不同的概念-标签组合关系。2.3 CI-CBM的整合架构与训练流程把这两块拼起来CI-CBM的典型训练流程在一个持续学习序列任务1, 任务2, …中大致是这样的阶段一训练任务1的模型构建一个CBM网络包含一个特征提取器如CNN主干、一个概念预测器多层感知机MLP和一个任务1的分类头。使用任务1的数据进行训练损失函数是标准的概念瓶颈损失L1 L_concept(概念预测 真实概念标签) α * L_task(最终预测 真实任务标签)。这里α是平衡两项损失的权重。阶段二持续学习训练任务2的模型这是关键步骤。我们冻结任务1的模型作为“旧老师”初始化一个结构相同或部分相同的“新学生”模型。前向传播将任务2的数据同时输入旧模型和新模型。损失计算新模型的总损失由三部分组成L_concept_new新模型对任务2数据的概念预测损失如果有概念标注。L_task_new新模型对任务2数据的最终任务预测损失。L_distill_concept新旧模型在概念层输出的蒸馏损失KL散度。这是保护旧概念知识的核心。可选L_distill_output新旧模型在最终输出层的蒸馏损失用于保护旧任务上的分类行为。 总损失为L_total L_concept_new β * L_task_new λ * L_distill_concept γ * L_distill_output其中β, λ, γ是超参数。反向传播与更新计算总损失仅更新新模型的参数特征提取器、概念预测器、任务2分类头。任务1的分类头通常被保留但不更新或通过一个扩展的输出层来容纳新旧类别。这个流程可以迭代到后续任务。核心思想是通过概念层的蒸馏正则化模型在概念空间构建了一个相对稳定、可积累的知识库而任务特定的分类头则可以相对灵活地调整。这比直接在原始特征空间或输出空间进行正则化提供了更强的可解释性和理论上更稳固的抗遗忘能力。3. 实操推演从零构建一个CI-CBM实验的完整链路理解了原理我们来看看如果自己要动手复现或实验CI-CBM整个链路该怎么走。这里我以计算机视觉领域的分类任务为例拆解每一步的关键决策和可能遇到的坑。3.1 数据准备与概念标注这是CBM类方法最基础也最耗时的一步。你需要一个带有概念标注的数据集。例如CUB-200鸟类数据集就带有“部位-属性”标注可以转化为概念如“背羽颜色蓝色”。操作步骤选择或构建数据集理想情况是使用现成的带概念标注的数据集如CUB-200, CelebA。如果没有你需要定义一套与任务相关的概念体系并人工或借助弱监督方法进行标注。这步直接决定了你模型的天花板。概念体系设计概念需要满足a) 人类可理解b) 与任务预测相关c) 在数据中可观测。避免设计模糊或难以标注的概念。数据划分与任务序列构建为了模拟持续学习你需要将数据按类别划分成多个任务。例如将CUB-200的200类鸟分成10个任务每个任务20类。关键点确保每个任务内部的概念分布有差异以测试模型的概念迁移和抗遗忘能力。比如任务1包含多种颜色的鸟任务2包含不同嘴型的鸟。实操心得注意概念标注的质量和一致性至关重要。初期我们试过用大型视觉模型的CLIP特征自动生成概念描述但发现噪声很大反而干扰了模型学习。后来还是投入资源做了精细的人工校验。对于持续学习还要特别注意某些概念可能是跨任务共享的如“有翅膀”而某些概念可能是任务特有的如“极乐鸟的求偶羽毛”。在划分任务时要有意识地将共享概念和特有概念混合这样才能全面评估方法。3.2 模型架构设计与实现细节接下来是搭建模型。一个基础的CI-CBM架构如下图所示此处用文字描述输入图像 - 共享特征提取器 (如ResNet-18) - 特征向量 特征向量 - 概念预测器 (MLP) - 概念概率向量 [c1, c2, ..., ck] 概念概率向量 - 任务分类头 (MLP) - 任务标签概率关键实现细节特征提取器通常使用预训练的CNN如ImageNet上预训练的ResNet。在持续学习中是否微调特征提取器是一个重要选择。CI-CBM通常建议微调因为概念学习需要适应特定领域。但微调会带来更大的遗忘风险这就需要概念蒸馏来约束。概念预测器一个简单的MLP即可。输出层神经元数等于概念总数每个神经元对应一个二分类或多项分类概念。使用sigmoid多标签或softmax互斥概念激活。任务分类头每个任务有自己的分类头。在持续学习中常用“扩展分类头”或“固定旧分类头添加新分类头”的方式。对于CI-CBM由于概念层是共享的分类头可以设计得轻量一些。蒸馏模块的实现需要编写一个函数计算新旧模型在概念层输出的KL散度。这里有个技巧温度参数τ的选择。τ越大概率分布越平滑蒸馏时更关注“暗知识”τ1则更关注原始预测。对于概念蒸馏我们可能希望τ稍大一些例如2.0以鼓励模型学习概念之间更柔和的关系而不是生硬的0/1判断。代码片段示意PyTorch风格class ConceptPredictor(nn.Module): def __init__(self, feat_dim, num_concepts): super().__init__() self.fc nn.Linear(feat_dim, num_concepts) def forward(self, x): return torch.sigmoid(self.fc(x)) # 假设概念是多标签二分类 class TaskPredictor(nn.Module): def __init__(self, num_concepts, num_classes): super().__init__() self.fc nn.Linear(num_concepts, num_classes) def forward(self, concepts): return self.fc(concepts) def concept_distillation_loss(old_concept_logits, new_concept_logits, temperature2.0): # old_concept_logits, new_concept_logits: [batch_size, num_concepts] old_probs F.softmax(old_concept_logits / temperature, dim-1) new_log_probs F.log_softmax(new_concept_logits / temperature, dim-1) loss F.kl_div(new_log_probs, old_probs, reductionbatchmean) * (temperature ** 2) return loss3.3 训练循环与超参数调优训练流程需要仔细设计循环以处理多个任务。训练伪代码逻辑# 假设 tasks 是一个列表每个元素是一个(task_data, task_concepts, task_labels)的数据加载器 model_old None for task_id, task_data in enumerate(tasks): model_new initialize_model() # 如果是第一个任务随机初始化否则从model_old复制并初始化新分类头 optimizer Adam(model_new.parameters(), lr0.001) for epoch in range(num_epochs): for batch in task_data: images, true_concepts, true_labels batch # 前向传播 features model_new.feature_extractor(images) pred_concepts_new model_new.concept_predictor(features) pred_labels_new model_new.task_predictors[task_id](pred_concepts_new) loss_task CE_loss(pred_labels_new, true_labels) loss_concept BCE_loss(pred_concepts_new, true_concepts) # 如果不是第一个任务计算蒸馏损失 loss_distill 0 if model_old is not None: with torch.no_grad(): features_old model_old.feature_extractor(images) pred_concepts_old model_old.concept_predictor(features_old) loss_distill concept_distillation_loss(pred_concepts_old, pred_concepts_new) # 总损失 total_loss loss_concept alpha * loss_task lambda * loss_distill # 反向传播 optimizer.zero_grad() total_loss.backward() optimizer.step() # 当前任务训练完毕将当前模型保存为旧模型用于下一个任务 model_old copy.deepcopy(model_new)超参数调优要点α (任务损失权重)平衡概念预测和最终任务预测。如果α太小模型可能不关心最终任务太大则可能忽略概念学习。通常从1.0开始调整。λ (概念蒸馏损失权重)这是抗遗忘的关键。λ太大会阻碍新任务学习刚性太强太小则无法保护旧概念。一个策略是让λ随着任务递增因为积累的概念知识越来越多需要更强的保护。学习率对于微调的特征提取器学习率通常要设得更小如1e-4到1e-5而对于新初始化的概念预测器和分类头可以用较大的学习率如1e-3。批次大小在持续学习中由于每个任务的数据量可能有限太大的批次大小可能导致优化不稳定。需要根据实际情况调整。4. 优势、挑战与实战中的“坑”CI-CBM听起来很美好但在实际跑实验时你会发现它有一系列独特的优势和必须面对的挑战。4.1 方法论优势再审视遗忘缓解的可解释性当模型在旧任务上性能下降时你可以直接检查是哪些概念预测的准确性下降了从而定位问题。是“翅膀”这个概念模糊了还是“颜色”判断不准了这比盯着准确率数字或特征分布变化要直观得多。正向迁移潜力由于概念是共享的模型在新任务上学到的新概念如“金属光泽”可能反过来提升对旧任务中某些样本如某种甲虫的识别能力如果旧任务数据中也隐含了这个特征的话。这是比单纯抗遗忘更高级的能力。数据效率与少样本学习如果新任务只需要组合已有的概念就能描述那么模型可能只需要很少的样本就能快速学会。例如模型已经掌握了“轮子”、“车窗”、“车灯”等概念学习识别“轿车”可能就很快。4.2 不可避免的挑战与应对策略概念标注的成本与质量这是最大的现实障碍。高质量、大规模的概念标注数据集很少。应对策略可以研究半监督或自监督的概念学习。例如利用视觉语言模型如CLIP生成概念候选再加以清洗和融合或者设计一些启发式规则从现有标签中衍生概念如从“金丝雀”标签可衍生出“是鸟”、“是黄色”等概念但这种方法生成的概念可能过于粗糙。概念体系的完备性与冲突预先定义的概念体系可能无法覆盖所有数据变异或者概念之间可能存在相关性甚至冲突例如“颜色红色”和“颜色蓝色”是互斥的。应对策略在概念预测器中使用适当的正则化如L1稀疏化或结构如分组softmax来建模概念间关系。同时概念体系本身可能需要迭代优化。概念蒸馏的“知识僵化”风险过度强调概念蒸馏可能会让模型的概念表征变得过于僵化难以学习与旧概念体系有根本冲突的新概念例如在一个医学影像任务中学到的“良性”概念特征可能不适用于另一个完全不同器官的影像。应对策略动态调整λ或者引入“概念预测器容量扩展”机制允许模型为新任务增加新的概念神经元而不是完全复用旧的。计算与存储开销需要保存旧模型用于蒸馏增加了存储负担前向传播需要同时运行新旧模型增加了计算开销。应对策略可以采用更紧凑的旧模型保存方式如只保存概念预测器部分或者研究基于提示或适配器的轻量级持续学习方法将其与CBM结合。4.3 实验评估中的关键指标评估CI-CBM不能只看最终的平均准确率。你需要一套更细致的指标平均准确率所有已学任务上的平均测试准确率。这是核心指标。概念预测准确率模型在所有任务的所有概念上的预测准确率。这直接衡量了概念知识的保留情况。后向迁移学习新任务后旧任务性能的变化。负值表示遗忘。前向迁移模型在新任务上的性能相对于从零开始学习新任务的优势。可解释性度量例如可以通过计算概念预测对最终分类决策的贡献度如基于梯度的归因方法来定量评估概念使用的合理性。5. 进阶思考CI-CBM的边界与未来可能方向CI-CBM为我们打开了一扇门但它远非终点。在实际研究和应用中我们还可以从以下几个方向进行更深入的探索。5.1 当概念本身也在演化时标准的CI-CBM假设概念体系是静态的、预先定义好的。但人类的认知中概念本身也会随着学习而细化、分化或融合。例如幼儿最初可能只有一个“狗”的概念后来才学会区分“牧羊犬”、“哈士奇”。在持续学习中我们能否让模型也具备这种“概念演化”的能力一个可能的思路是动态概念瓶颈。模型在遇到新任务时如果现有概念不足以很好地解释新数据可以自动提议增加新的概念节点或者对现有概念进行拆分。这需要设计一套概念生成、评估与合并的机制并与蒸馏正则化相结合在保持稳定性和适应演化之间取得平衡。这将是更具挑战性但也更接近人类学习本质的方向。5.2 从监督概念到自监督概念依赖人工标注概念是瓶颈。一个更有前景的方向是利用自监督学习来发现数据中固有的、可解释的概念。例如通过对比学习让模型学习到图像中不同部分通过数据增强或分割获得的特征这些特征可能对应着“纹理”、“形状”、“部件”等潜在概念。然后再将这些自监督学习到的特征空间与一个可解释的概念层进行对齐或映射。这样我们就有可能获得一个无需昂贵标注、数据驱动产生的概念体系。在持续学习中对这些自监督概念的蒸馏可能比监督概念更具通用性和可扩展性。当然如何确保这些自监督概念对人类是可解释的是一个需要解决的关键问题。5.3 与其他持续学习范式的融合CI-CBM本质上是一种基于正则化的方法。它可以与基于回放的方法结合形成混合策略。例如除了进行概念蒸馏还可以在回放缓冲区中存储一部分旧任务的“原型样本”最能代表某个概念或类别的样本。在训练新任务时同时回放这些样本提供更直接的概念信号。此外也可以与基于架构的方法如动态扩展网络结合。让概念预测器本身也具有扩展能力为显著不同的新任务分配新的概念子网络并通过门控机制或稀疏连接来激活相关的概念知识从而避免不同任务概念之间的干扰。5.4 跨模态与更复杂的任务目前CI-CBM的研究多在图像分类上进行验证。但其思想可以推广到更复杂的场景多模态任务在视觉问答或图文检索中概念可以同时来自图像和文本。例如模型需要学习“图像中的物体是红色的”视觉概念和“问题询问的是颜色”文本概念并将它们关联起来进行推理。持续学习在这种多模态场景下挑战更大概念蒸馏可能需要在联合嵌入空间中进行。序列决策任务在强化学习中智能体需要学习一系列任务。可以将“状态”或“观察”映射到一系列高级概念如“危险”、“可交互”、“目标接近”然后基于概念进行决策。持续学习的目标就是让智能体在不同任务中保持对这些高级概念的理解。这为可解释的持续强化学习提供了新思路。在我自己的尝试中将CI-CBM的思想应用于一个简单的机器人指令理解任务时就发现将视觉场景分解为“物体A的位置”、“物体B的状态”等概念确实能让模型在学习了“拿杯子”任务后更快地学习“倒水”任务因为后者共享了“杯子”和“手”的空间关系概念。当然如何自动地从原始像素和指令文本中抽取出稳定、有用的概念仍然是需要大量实验和调试的工作。CI-CBM与其说是一个现成的完美工具不如说是一个非常有启发性的框架。它强迫我们思考在让模型持续学习的同时我们究竟希望它记住什么是冰冷的参数还是可以言说、可以推理、可以迁移的“概念”沿着这个方向走下去我们或许能离构建更稳健、更可信、也更智能的机器学习系统更近一步。至少下次当模型遗忘时我们不再只是面对一个下跌的曲线而是可以指着某个概念层神经元说“看它开始分不清‘翅膀’和‘鳍’了我们需要给它看看更多水生和飞行的对比样本。”这种调试的体验本身就是一种进步。
CI-CBM：概念瓶颈与蒸馏正则化如何解决持续学习中的灾难性遗忘
发布时间：2026/6/21 2:53:38
1. 项目概述当持续学习遇上概念瓶颈最近在跟进持续学习领域的研究发现一个挺有意思的趋势大家开始不满足于模型仅仅“记住”任务而是希望它能像人一样理解任务背后的“概念”。这让我想起了之前做的一个项目当时我们就在头疼模型在学完新任务后旧任务性能掉得厉害也就是经典的灾难性遗忘问题。常规的基于正则化或回放的方法虽然有效但总觉得模型学得有点“死记硬背”缺乏可解释性出了问题也不知道从哪儿查起。直到我看到“CI-CBM”这个思路它把“概念瓶颈模型”和“蒸馏正则化”揉到了一起来解决持续学习的问题。简单来说CBM强迫模型先学习人类可理解的概念比如图像分类中“有翅膀”、“有喙”、“是黄色的”再用这些概念去预测最终标签。而CI-CBM则是在持续学习的动态环境下让模型不仅记住旧任务的概念知识还能把学到的概念“蒸馏”给后续的新模型实现知识在概念层面的持续积累。这听起来就比单纯约束参数变化或者回放几个旧样本要高级得多因为它试图让模型构建一个稳定且可解释的概念知识体系。这篇文章我就结合自己的理解和一些实验设想来拆解一下CI-CBM这个方法。它到底是怎么把概念学习和持续学习结合起来的蒸馏正则化在这里扮演了什么角色在实际操作中又会遇到哪些预料之外的坑如果你也在做模型持续学习、可解释性AI或者对让AI拥有更接近人类的“概念化”学习能力感兴趣那接下来的内容应该能给你一些直接的参考。2. 核心组件拆解概念瓶颈与蒸馏正则化如何协同工作要搞懂CI-CBM得先把它拆开看看两个核心部件——“概念瓶颈模型”和“蒸馏正则化”——各自是干什么的以及它们是怎么被组装起来的。这就像组装一台精密仪器你得先熟悉每个齿轮的用途。2.1 概念瓶颈模型给模型装上“概念滤镜”概念瓶颈模型的核心思想非常直观在输入如图像和最终输出如“金丝雀”之间强行插入一个由人类可解释的“概念”组成的中间层。模型的学习过程被分成了两步概念预测从输入数据中预测一系列预设的概念标签。例如给定一张鸟的图片模型需要先判断“是否有翅膀”是、“是否有喙”是、“是否是黄色”是。标签预测基于上一步预测出的概念向量来预测最终的分类标签如“金丝雀”。这么做有几个巨大的好处尤其是在持续学习的语境下可解释性模型为什么判断这是金丝雀因为它“看到”了翅膀、喙和黄色。如果模型判断错了我们可以追溯到是哪个概念预测错了比如误判了颜色从而进行有针对性的调试或数据补充。知识结构化概念层实际上构建了一个比原始像素更高级、更稳定的特征空间。不同任务可能共享相同的概念“翅膀”这个概念对识别“鹰”和“鹦鹉”都有用这为知识迁移提供了天然的基础。数据效率理论上一旦模型学会了“翅膀”这个概念它在学习任何需要“翅膀”概念的新任务时都可以直接复用而不需要从头学习。在持续学习场景中CBM的挑战在于当新任务到来时我们不仅要让模型学会新任务特有的概念比如识别“汽车”需要“有车轮”这个概念还要保证旧任务的概念比如“有羽毛”不被遗忘或扭曲。这就是CI-CBM需要解决的核心问题之一。2.2 蒸馏正则化让新老师向旧老师学习“教学理念”蒸馏正则化是持续学习中缓解遗忘的一把利器其思想来源于知识蒸馏。它不是直接保存旧模型的参数那样会严重限制新任务的学习能力也不是简单保存旧数据可能涉及隐私或存储开销而是让新模型学生在向新任务数据学习的同时模仿旧模型老师在相同或相似输入上的“行为”。具体来说通常使用KL散度作为损失函数的一部分L_distill KL( σ(T_old(x) / τ) || σ(T_new(x) / τ) )其中T_old和T_new分别是旧模型和新模型的输出logitsσ是softmax函数τ是温度参数用于平滑概率分布让“暗知识”也得以传递。在CI-CBM中蒸馏正则化有了新的用武之地。我们不仅仅在最终的输出层进行蒸馏更重要的是在概念层进行蒸馏。这意味着新模型在预测概念时不仅要尽量准确针对新任务数据其预测的概念概率分布还要尽量向旧模型预测的概念分布靠拢。这样做的好处是保护概念知识即使新任务的数据中没有“羽毛”相关的样本通过概念层蒸馏模型也能保持对“羽毛”这个概念的预测能力因为它被要求模仿旧模型对这个概念的“看法”。解耦学习模型对概念的理解和对概念-标签映射关系的理解可以被分开约束。我们可以对概念预测器施加较强的蒸馏正则化以保护概念知识而对最终的分类头施加相对较弱或动态的约束以适应新旧任务不同的概念-标签组合关系。2.3 CI-CBM的整合架构与训练流程把这两块拼起来CI-CBM的典型训练流程在一个持续学习序列任务1, 任务2, …中大致是这样的阶段一训练任务1的模型构建一个CBM网络包含一个特征提取器如CNN主干、一个概念预测器多层感知机MLP和一个任务1的分类头。使用任务1的数据进行训练损失函数是标准的概念瓶颈损失L1 L_concept(概念预测 真实概念标签) α * L_task(最终预测 真实任务标签)。这里α是平衡两项损失的权重。阶段二持续学习训练任务2的模型这是关键步骤。我们冻结任务1的模型作为“旧老师”初始化一个结构相同或部分相同的“新学生”模型。前向传播将任务2的数据同时输入旧模型和新模型。损失计算新模型的总损失由三部分组成L_concept_new新模型对任务2数据的概念预测损失如果有概念标注。L_task_new新模型对任务2数据的最终任务预测损失。L_distill_concept新旧模型在概念层输出的蒸馏损失KL散度。这是保护旧概念知识的核心。可选L_distill_output新旧模型在最终输出层的蒸馏损失用于保护旧任务上的分类行为。 总损失为L_total L_concept_new β * L_task_new λ * L_distill_concept γ * L_distill_output其中β, λ, γ是超参数。反向传播与更新计算总损失仅更新新模型的参数特征提取器、概念预测器、任务2分类头。任务1的分类头通常被保留但不更新或通过一个扩展的输出层来容纳新旧类别。这个流程可以迭代到后续任务。核心思想是通过概念层的蒸馏正则化模型在概念空间构建了一个相对稳定、可积累的知识库而任务特定的分类头则可以相对灵活地调整。这比直接在原始特征空间或输出空间进行正则化提供了更强的可解释性和理论上更稳固的抗遗忘能力。3. 实操推演从零构建一个CI-CBM实验的完整链路理解了原理我们来看看如果自己要动手复现或实验CI-CBM整个链路该怎么走。这里我以计算机视觉领域的分类任务为例拆解每一步的关键决策和可能遇到的坑。3.1 数据准备与概念标注这是CBM类方法最基础也最耗时的一步。你需要一个带有概念标注的数据集。例如CUB-200鸟类数据集就带有“部位-属性”标注可以转化为概念如“背羽颜色蓝色”。操作步骤选择或构建数据集理想情况是使用现成的带概念标注的数据集如CUB-200, CelebA。如果没有你需要定义一套与任务相关的概念体系并人工或借助弱监督方法进行标注。这步直接决定了你模型的天花板。概念体系设计概念需要满足a) 人类可理解b) 与任务预测相关c) 在数据中可观测。避免设计模糊或难以标注的概念。数据划分与任务序列构建为了模拟持续学习你需要将数据按类别划分成多个任务。例如将CUB-200的200类鸟分成10个任务每个任务20类。关键点确保每个任务内部的概念分布有差异以测试模型的概念迁移和抗遗忘能力。比如任务1包含多种颜色的鸟任务2包含不同嘴型的鸟。实操心得注意概念标注的质量和一致性至关重要。初期我们试过用大型视觉模型的CLIP特征自动生成概念描述但发现噪声很大反而干扰了模型学习。后来还是投入资源做了精细的人工校验。对于持续学习还要特别注意某些概念可能是跨任务共享的如“有翅膀”而某些概念可能是任务特有的如“极乐鸟的求偶羽毛”。在划分任务时要有意识地将共享概念和特有概念混合这样才能全面评估方法。3.2 模型架构设计与实现细节接下来是搭建模型。一个基础的CI-CBM架构如下图所示此处用文字描述输入图像 - 共享特征提取器 (如ResNet-18) - 特征向量 特征向量 - 概念预测器 (MLP) - 概念概率向量 [c1, c2, ..., ck] 概念概率向量 - 任务分类头 (MLP) - 任务标签概率关键实现细节特征提取器通常使用预训练的CNN如ImageNet上预训练的ResNet。在持续学习中是否微调特征提取器是一个重要选择。CI-CBM通常建议微调因为概念学习需要适应特定领域。但微调会带来更大的遗忘风险这就需要概念蒸馏来约束。概念预测器一个简单的MLP即可。输出层神经元数等于概念总数每个神经元对应一个二分类或多项分类概念。使用sigmoid多标签或softmax互斥概念激活。任务分类头每个任务有自己的分类头。在持续学习中常用“扩展分类头”或“固定旧分类头添加新分类头”的方式。对于CI-CBM由于概念层是共享的分类头可以设计得轻量一些。蒸馏模块的实现需要编写一个函数计算新旧模型在概念层输出的KL散度。这里有个技巧温度参数τ的选择。τ越大概率分布越平滑蒸馏时更关注“暗知识”τ1则更关注原始预测。对于概念蒸馏我们可能希望τ稍大一些例如2.0以鼓励模型学习概念之间更柔和的关系而不是生硬的0/1判断。代码片段示意PyTorch风格class ConceptPredictor(nn.Module): def __init__(self, feat_dim, num_concepts): super().__init__() self.fc nn.Linear(feat_dim, num_concepts) def forward(self, x): return torch.sigmoid(self.fc(x)) # 假设概念是多标签二分类 class TaskPredictor(nn.Module): def __init__(self, num_concepts, num_classes): super().__init__() self.fc nn.Linear(num_concepts, num_classes) def forward(self, concepts): return self.fc(concepts) def concept_distillation_loss(old_concept_logits, new_concept_logits, temperature2.0): # old_concept_logits, new_concept_logits: [batch_size, num_concepts] old_probs F.softmax(old_concept_logits / temperature, dim-1) new_log_probs F.log_softmax(new_concept_logits / temperature, dim-1) loss F.kl_div(new_log_probs, old_probs, reductionbatchmean) * (temperature ** 2) return loss3.3 训练循环与超参数调优训练流程需要仔细设计循环以处理多个任务。训练伪代码逻辑# 假设 tasks 是一个列表每个元素是一个(task_data, task_concepts, task_labels)的数据加载器 model_old None for task_id, task_data in enumerate(tasks): model_new initialize_model() # 如果是第一个任务随机初始化否则从model_old复制并初始化新分类头 optimizer Adam(model_new.parameters(), lr0.001) for epoch in range(num_epochs): for batch in task_data: images, true_concepts, true_labels batch # 前向传播 features model_new.feature_extractor(images) pred_concepts_new model_new.concept_predictor(features) pred_labels_new model_new.task_predictors[task_id](pred_concepts_new) loss_task CE_loss(pred_labels_new, true_labels) loss_concept BCE_loss(pred_concepts_new, true_concepts) # 如果不是第一个任务计算蒸馏损失 loss_distill 0 if model_old is not None: with torch.no_grad(): features_old model_old.feature_extractor(images) pred_concepts_old model_old.concept_predictor(features_old) loss_distill concept_distillation_loss(pred_concepts_old, pred_concepts_new) # 总损失 total_loss loss_concept alpha * loss_task lambda * loss_distill # 反向传播 optimizer.zero_grad() total_loss.backward() optimizer.step() # 当前任务训练完毕将当前模型保存为旧模型用于下一个任务 model_old copy.deepcopy(model_new)超参数调优要点α (任务损失权重)平衡概念预测和最终任务预测。如果α太小模型可能不关心最终任务太大则可能忽略概念学习。通常从1.0开始调整。λ (概念蒸馏损失权重)这是抗遗忘的关键。λ太大会阻碍新任务学习刚性太强太小则无法保护旧概念。一个策略是让λ随着任务递增因为积累的概念知识越来越多需要更强的保护。学习率对于微调的特征提取器学习率通常要设得更小如1e-4到1e-5而对于新初始化的概念预测器和分类头可以用较大的学习率如1e-3。批次大小在持续学习中由于每个任务的数据量可能有限太大的批次大小可能导致优化不稳定。需要根据实际情况调整。4. 优势、挑战与实战中的“坑”CI-CBM听起来很美好但在实际跑实验时你会发现它有一系列独特的优势和必须面对的挑战。4.1 方法论优势再审视遗忘缓解的可解释性当模型在旧任务上性能下降时你可以直接检查是哪些概念预测的准确性下降了从而定位问题。是“翅膀”这个概念模糊了还是“颜色”判断不准了这比盯着准确率数字或特征分布变化要直观得多。正向迁移潜力由于概念是共享的模型在新任务上学到的新概念如“金属光泽”可能反过来提升对旧任务中某些样本如某种甲虫的识别能力如果旧任务数据中也隐含了这个特征的话。这是比单纯抗遗忘更高级的能力。数据效率与少样本学习如果新任务只需要组合已有的概念就能描述那么模型可能只需要很少的样本就能快速学会。例如模型已经掌握了“轮子”、“车窗”、“车灯”等概念学习识别“轿车”可能就很快。4.2 不可避免的挑战与应对策略概念标注的成本与质量这是最大的现实障碍。高质量、大规模的概念标注数据集很少。应对策略可以研究半监督或自监督的概念学习。例如利用视觉语言模型如CLIP生成概念候选再加以清洗和融合或者设计一些启发式规则从现有标签中衍生概念如从“金丝雀”标签可衍生出“是鸟”、“是黄色”等概念但这种方法生成的概念可能过于粗糙。概念体系的完备性与冲突预先定义的概念体系可能无法覆盖所有数据变异或者概念之间可能存在相关性甚至冲突例如“颜色红色”和“颜色蓝色”是互斥的。应对策略在概念预测器中使用适当的正则化如L1稀疏化或结构如分组softmax来建模概念间关系。同时概念体系本身可能需要迭代优化。概念蒸馏的“知识僵化”风险过度强调概念蒸馏可能会让模型的概念表征变得过于僵化难以学习与旧概念体系有根本冲突的新概念例如在一个医学影像任务中学到的“良性”概念特征可能不适用于另一个完全不同器官的影像。应对策略动态调整λ或者引入“概念预测器容量扩展”机制允许模型为新任务增加新的概念神经元而不是完全复用旧的。计算与存储开销需要保存旧模型用于蒸馏增加了存储负担前向传播需要同时运行新旧模型增加了计算开销。应对策略可以采用更紧凑的旧模型保存方式如只保存概念预测器部分或者研究基于提示或适配器的轻量级持续学习方法将其与CBM结合。4.3 实验评估中的关键指标评估CI-CBM不能只看最终的平均准确率。你需要一套更细致的指标平均准确率所有已学任务上的平均测试准确率。这是核心指标。概念预测准确率模型在所有任务的所有概念上的预测准确率。这直接衡量了概念知识的保留情况。后向迁移学习新任务后旧任务性能的变化。负值表示遗忘。前向迁移模型在新任务上的性能相对于从零开始学习新任务的优势。可解释性度量例如可以通过计算概念预测对最终分类决策的贡献度如基于梯度的归因方法来定量评估概念使用的合理性。5. 进阶思考CI-CBM的边界与未来可能方向CI-CBM为我们打开了一扇门但它远非终点。在实际研究和应用中我们还可以从以下几个方向进行更深入的探索。5.1 当概念本身也在演化时标准的CI-CBM假设概念体系是静态的、预先定义好的。但人类的认知中概念本身也会随着学习而细化、分化或融合。例如幼儿最初可能只有一个“狗”的概念后来才学会区分“牧羊犬”、“哈士奇”。在持续学习中我们能否让模型也具备这种“概念演化”的能力一个可能的思路是动态概念瓶颈。模型在遇到新任务时如果现有概念不足以很好地解释新数据可以自动提议增加新的概念节点或者对现有概念进行拆分。这需要设计一套概念生成、评估与合并的机制并与蒸馏正则化相结合在保持稳定性和适应演化之间取得平衡。这将是更具挑战性但也更接近人类学习本质的方向。5.2 从监督概念到自监督概念依赖人工标注概念是瓶颈。一个更有前景的方向是利用自监督学习来发现数据中固有的、可解释的概念。例如通过对比学习让模型学习到图像中不同部分通过数据增强或分割获得的特征这些特征可能对应着“纹理”、“形状”、“部件”等潜在概念。然后再将这些自监督学习到的特征空间与一个可解释的概念层进行对齐或映射。这样我们就有可能获得一个无需昂贵标注、数据驱动产生的概念体系。在持续学习中对这些自监督概念的蒸馏可能比监督概念更具通用性和可扩展性。当然如何确保这些自监督概念对人类是可解释的是一个需要解决的关键问题。5.3 与其他持续学习范式的融合CI-CBM本质上是一种基于正则化的方法。它可以与基于回放的方法结合形成混合策略。例如除了进行概念蒸馏还可以在回放缓冲区中存储一部分旧任务的“原型样本”最能代表某个概念或类别的样本。在训练新任务时同时回放这些样本提供更直接的概念信号。此外也可以与基于架构的方法如动态扩展网络结合。让概念预测器本身也具有扩展能力为显著不同的新任务分配新的概念子网络并通过门控机制或稀疏连接来激活相关的概念知识从而避免不同任务概念之间的干扰。5.4 跨模态与更复杂的任务目前CI-CBM的研究多在图像分类上进行验证。但其思想可以推广到更复杂的场景多模态任务在视觉问答或图文检索中概念可以同时来自图像和文本。例如模型需要学习“图像中的物体是红色的”视觉概念和“问题询问的是颜色”文本概念并将它们关联起来进行推理。持续学习在这种多模态场景下挑战更大概念蒸馏可能需要在联合嵌入空间中进行。序列决策任务在强化学习中智能体需要学习一系列任务。可以将“状态”或“观察”映射到一系列高级概念如“危险”、“可交互”、“目标接近”然后基于概念进行决策。持续学习的目标就是让智能体在不同任务中保持对这些高级概念的理解。这为可解释的持续强化学习提供了新思路。在我自己的尝试中将CI-CBM的思想应用于一个简单的机器人指令理解任务时就发现将视觉场景分解为“物体A的位置”、“物体B的状态”等概念确实能让模型在学习了“拿杯子”任务后更快地学习“倒水”任务因为后者共享了“杯子”和“手”的空间关系概念。当然如何自动地从原始像素和指令文本中抽取出稳定、有用的概念仍然是需要大量实验和调试的工作。CI-CBM与其说是一个现成的完美工具不如说是一个非常有启发性的框架。它强迫我们思考在让模型持续学习的同时我们究竟希望它记住什么是冰冷的参数还是可以言说、可以推理、可以迁移的“概念”沿着这个方向走下去我们或许能离构建更稳健、更可信、也更智能的机器学习系统更近一步。至少下次当模型遗忘时我们不再只是面对一个下跌的曲线而是可以指着某个概念层神经元说“看它开始分不清‘翅膀’和‘鳍’了我们需要给它看看更多水生和飞行的对比样本。”这种调试的体验本身就是一种进步。
