尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

Automatic Attack Discovery for Few-Shot Class-Incremental Learning via Large Language Models

Automatic Attack Discovery for Few-Shot Class-Incremental Learning via Large Language Models 文章总结与翻译一、主要内容该研究聚焦少样本类增量学习(FSCIL)的安全问题,针对现有人工设计攻击方法(如FGSM、PGD)依赖专家知识、攻击效果差、成本高的缺陷,提出了一种基于大语言模型(LLMs)的自动攻击发现框架ACraft。核心背景FSCIL需在少量样本下增量学习新类别并避免基础类灾难性遗忘,在实际场景中应用广泛,但相关安全漏洞尚未得到充分研究。传统攻击方法存在三大问题:依赖专家知识导致开发成本高、难以适应FSCIL模型动态演化的决策边界、未考虑少样本数据稀疏性导致攻击不稳定。核心框架ACraft三大核心组件对抗算法生成器:由LLM根据提示生成攻击策略(自然语言解释)及可执行代码,支持三种生成函数(创建全新算法的Genesis函数、优化现有算法的Refine函数、融合多算法优势的Synthesis函数)。攻击效果评估器:通过多属性效用函数计算攻击算法的适应度分数,平衡攻击效果(基础类与新类性能下降幅度)和计算成本。PPO-based进化控制器:以适应度分数为奖励信号,通过近端策略优化稳定更新策略,指导LLM迭代优化攻击算法。闭环工作流程:初始化生成初始攻击算法种群→控制器采样生成新攻击算法→评估器计算适应度→基于PPO更新策略→筛选最优算法迭代,直
返回列表