PASLESelective Label Enhancement Learning for Test-Time Adaptation1. 论文定位与研究背景1.1 基本信息项目内容论文Selective Label Enhancement Learning for Test-Time Adaptation简称PASLE会议ICLR 2025研究方向Test-Time AdaptationTTA核心问题测试阶段无真实标签时如何为目标域样本构造可靠监督信号核心思想对高置信样本使用确定标签对不确定样本保留候选标签集合并逐渐细化1.2 TTA基本设定复习一下TTA假设模型已经在有标注源域数据上完成训练测试阶段面对无标签目标域数据并利用目标域测试样本进行在线适应源域训练模型 → 无标签目标域测试数据 → 测试时模型更新 → 目标域预测由于源域与目标域存在分布差异pS(x,y) ≠ pT(x,y)因此源域训练得到的模型直接用于目标域时通常会出现性能下降。PASLE进一步关注的问题是目标域没有真实标签时模型自己的预测究竟应该以多大程度作为监督信号。2. 从TENT到PASLE的问题演进2.1 TENT熵最小化TENT的核心思想是利用目标域数据进行Entropy MinimizationLent(x) -Σc pc(x) log pc(x)目标是让模型输出更加尖锐、更加自信。例如[0.40, 0.30, 0.20, 0.10] → [0.90, 0.05, 0.03, 0.02]但关键问题是低Entropy ≠ 正确预测如果真实类别是class 2而模型预测[0.95, 0.02, 0.02, 0.01]虽然Entropy很低但模型实际上是错误且高度自信的。因此可能形成错误预测 → 高置信度错误 → Entropy下降 → 参数更新 → 错误进一步强化2.2 EATA可靠样本选择EATA进一步认识到并非所有测试样本都适合用于模型更新。问题EATA对应思路高熵样本不可靠选择可靠样本大量相似样本产生重复梯度减少样本冗余持续更新造成模型漂移控制有效更新核心变化是所有样本参与更新 → 选择更可靠的样本参与更新2.3 SAR稳定参数更新SAR进一步关注可靠样本产生的参数更新是否稳定引入Reliable Sample和Sharpness-Aware Update试图降低不稳定更新对模型造成的影响。因此三者的问题重点不同方法主要解决问题TENT如何利用无标签目标域数据EATA哪些样本值得用于更新SAR如何让参数更新更加稳定PASLE不确定样本应该采用什么形式的监督标签3. PASLE核心创新不确定样本不强制变成确定伪标签3.1 传统伪标签的问题假设模型预测p(x) [0.45, 0.40, 0.10, 0.05]传统伪标签方法直接取最大概率类别ŷ argmax p(x) 1然后将其转化为[1,0,0,0]问题在于模型实际上只有45%的概率倾向于class 1同时还有40%的概率倾向于class 2。两者差距仅为0.05却被强制转换成100%确定的class 1。因此模型预测分布 → 强制One-hot伪标签会造成明显的信息损失。3.2 PASLE的Selective Label EnhancementPASLE根据样本的预测可靠程度采用不同标签表示。样本类型模型状态标签形式训练方式Confident Sample某一类别明显领先One-hot Label确定性监督Uncertain Sample多个类别概率接近Candidate Label Set集合监督适应后期候选类别逐渐明确更小Candidate Set或One-hot渐进式细化核心思想可以概括为Confident Sample → One-hot LabelUncertain Sample → Candidate Label Set → Progressive Refinement因此PASLE真正的创新不是简单地“使用不确定标签”而是不确定样本 → 不强制选择唯一伪标签 → 保留候选类别空间 → 随适应过程逐步确定4. Candidate Label Set与微观算法4.1 候选标签集合的产生假设模型输出p [0.45,0.40,0.10,0.05]最高概率类别为p argmaxj dj第二高概率类别为q argmaxj≠p dj通过最高类别与第二高类别之间的概率差判断样本是否足够确定dp - dq τ满足条件时x → One-hot Label不满足条件时x → Candidate Label Set例如0.45 - 0.40 0.05如果0.05没有超过当前阈值则保留{1,2}而不是直接选择class 1。4.2 Candidate Label Loss对于确定标签l [1,0,0,0]普通交叉熵为L -log f1(x;Θ)对于候选标签l [1,1,0,0]PASLE使用集合监督L -log(f1(x;Θ) f2(x;Θ))如果f(x) [0.45,0.40,0.10,0.05]则L -log(0.45 0.40) -log(0.85) ≈ 0.163此时模型需要提高f1 f2而不是强制f1 → 1因此模型可以在候选类别内部继续调整。4.3 与传统伪标签的数值对比方法标签Loss优化目标传统伪标签[1,0,0,0]-log0.45f1 → 1PASLE[1,1,0,0]-log(0.450.40)f1f2 → 1假设真实类别实际为class 2传统伪标签可能形成错误伪标签 → 错误梯度 → class 1置信度继续升高PASLE则允许候选集合{1,2} → 模型继续适应 → class 2概率逐渐超过class 1因此其核心逻辑是先约束正确类别的范围 → 再逐渐确定具体类别5. Progressive Refinement与Buffer5.1 渐进式标签细化PASLE并不是让候选标签集合永久存在而是随着测试时适应不断推进使标签逐渐从“不确定”走向“确定”。典型变化为Candidate Set → Smaller Candidate Set → One-hot Label早期模型刚进入目标域时对样本的判断可能并不可靠因此允许{1,2}随着模型逐渐适应目标域{1,2} → {2} → One-hot(class 2)这种机制避免了测试初期由于模型尚未适应目标域而产生错误伪标签。5.2 动态阈值PASLE并非简单采用一个固定阈值而是根据适应过程逐渐调整标签确定程度。适应阶段模型状态标签策略早期模型对目标域不熟悉更谨慎保留Candidate Set中期模型逐渐适应候选集合逐渐缩小后期预测更加稳定更多样本转为确定标签因此早期 → 保留不确定性中期 → 缩小候选空间后期 → 确定标签5.3 BufferPASLE还利用Buffer保存当前阶段暂时不适合直接进行确定性更新的样本。其基本作用是测试样本 → 可靠性判断 → 直接利用 / 暂时保留 → 后续逐渐处理因此测试样本不必在第一次出现时就被迫产生确定监督。6. PASLE与其他标签形式的区别6.1 One-hot、Soft Label与Candidate Label标签形式示例表达含义One-hot[1,0,0,0]确定类别为class 1Soft Label[0.45,0.40,0.10,0.05]各类别具有不同预测概率Candidate Label[1,1,0,0]正确类别位于class 1或class 2PASLEOne-hot Candidate Label动态切换根据可靠程度决定监督强度PASLE并不是简单的Soft Label。Soft Label保留的是模型当前的概率分布[0.45,0.40,0.10,0.05]Candidate Label表达的是正确类别 ∈ {1,2}因此PASLE更接近Partial Label Learning其重点是保留“不确定情况下的候选类别空间”。6.2 PASLE真正改变的是什么传统TTA重点关注预测分布 → Entropy → 参数更新PASLE进一步关注预测分布 → 判断可靠性 → 选择标签表示 → 构造监督 → 参数更新因此其核心变化可以概括为预测分布优化 → 伪标签质量与监督形式优化7. 实验与最终理解7.1 实验验证重点PASLE在多个TTA实验场景中验证其方法并通过消融实验分析Candidate Label机制的贡献。实验关注点目的PASLE与现有TTA方法比较验证整体适应性能PASLE与去除Candidate Label机制的版本比较验证候选标签机制本身的贡献不同阈值设置分析标签确定程度Buffer相关设置分析样本暂存机制不同目标域验证方法对域偏移的适应能力最重要的不是单纯记住某个Accuracy而是理解消融实验回答的问题Candidate Label机制是否真正带来了收益实验结果支持其有效性。7.2 熵最小化问题的完整总结问题表现PASLE关系高置信错误错误预测被进一步强化主要针对噪声梯度错误伪标签产生错误更新方向主要缓解样本冗余相似样本产生重复梯度EATA更直接针对灾难性遗忘持续适应导致已有知识退化PASLE并非主要解决参数更新成本持续测试时更新需要计算资源PASLE并非主要解决不确定性监督不足不确定样本被强制赋予确定标签PASLE核心解决7.3 PASLE在TTA研究路线中的位置可以将目前阅读的几篇论文理解为TENT利用Entropy进行无监督测试时适应→ EATA筛选可靠样本并减少冗余更新→ SAR提高参数更新稳定性→ PASLE改变不确定样本的监督方式因此PASLE最核心的一句话是不确定样本不能简单地变成一个确定伪标签而应该保留候选标签集合并随着测试时适应过程逐渐细化。最终可压缩为PASLE Confident Samples → One-hot LabelUncertain Samples → Candidate Label Set → Progressive Refinement。