![[论文学习]大型语言模型机器遗忘之深入剖析：问题、方法与实证](images/page-header-bg.jpg)
![[论文学习]大型语言模型机器遗忘之深入剖析：问题、方法与实证](http://pic.xiahunao.cn/yaotu/[论文学习]大型语言模型机器遗忘之深入剖析：问题、方法与实证)
A Closer Look at Machine Unlearning for Large Language Models核心问题与动机大型语言模型LLM在训练过程中会从海量网络数据中记住敏感、隐私或受版权保护的内容这带来了严重的隐私泄露、法律风险如「被遗忘权」Right to be Forgotten和道德问题。由于从头重新训练模型以移除特定知识的成本极高机器遗忘Machine Unlearning成为重要的解决方案通过针对性微调让模型「忘记」特定forget set的内容同时尽量保留整体效能retain set与一般知识。论文指出先前研究存在以下几大核心问题评估不足多数工作仅依赖 ROUGE 作为唯一输出评估指标无法全面捕捉模型行为如重复生成无意义 token、语义偏移、事实错误。方法分类与缺陷Untargeted Unlearning非目标化遗忘如 GA、NPO仅最大化 forget set 的预测 loss希望模型不泄漏信息。但理想 retain model 的行为不可预测且 surrogate retain model 容易产生hallucination看似合理但事实错误的输出可能带来额外法律风险。Targeted Unlearning目标化遗忘如 IDK Fine-tune、DPO强制模型对 forget set 输出拒答模板如 “Sorry, I don’t know.”但容易导致模型过度无知overly ignorant拒答 retain set 的类似问题严重损害实用性。持续遗忘与真实世界适用性先前研究多聚焦单次虚构遗忘忽略了连续遗忘continual unlearning和真实世界情境下的挑战。正则化不足现有的 GD 或 KL 正则化无法有效平衡遗忘效果与效用保留尤其在 targeted 情境下。本文动机在于提供更深入的分析框架、更好的评估指标与实用方法推动 LLM 遗忘技术朝更可靠、安全的方向发展符合 AI 治理需求。结果/成果论文提出了两大核心改进1. Untargeted Unlearning 改进引入Maximizing Entropy (ME)目标让模型对 forget set 的每个 next token预测趋近 uniform distribution最大熵类似随机初始化模型有效避免 hallucination 风险。结合 GD 正则化形成MEGD方法。2. Targeted Unlearning 改进引入Answer Preservation (AP) Loss作为正则化在降低拒答模板概率的同时维持 retain set 原答案概率形成IDKAP方法。新增评估指标更全面Token Entropy (TE)衡量输出 token 多样性避免重复垃圾输出Cosine Similarity (CS)衡量遗忘前后输出语义相似度Entailment Score (ES)使用 NLI 模型评估输出与 ground truth 的事实蕴涵正确性聚合指标Model Utility (MU)retain set 的 harmonic meanForget Efficacy (FE)forget set 的 1 - 平均实验结果基于 TOFU 基准、Llama2-7B 等虚构遗忘Fictitious UnlearningMEGD 在 forget01/05/10 任务中达成最佳 MU-FE 平衡显着优于 GA/NPO 等 baseline尤其在较大 forget set 上能同时维持稳定效用并提升遗忘效果。持续遗忘Continual Unlearning模拟多次连续遗忘多方法效用随任务累积下降但 MEGD 表现更稳健。真实世界遗忘Real-world Unlearning在更实际情境下MEGD 在多项指标上超越 baseline展现良好泛化能力。总体而言提出的方法在 MU 和 FE 之间取得了更好的权衡代码已完全开源便于复现。分析与洞见论文的深度不仅在于提出新方法更从多个角度深刻剖析了 LLM 遗忘的本质挑战Untargeted 的不可预测性LLM 输出空间巨大无法可靠模拟理想 retain modelsurrogate 方法虽实用但 hallucination 风险高。ME 目标提供了一种数据无关data-agnostic、定义明确的替代方案更接近「真正遗忘」而非近似。Targeted 的过度无知问题遗忘集与保留集分布相似单纯提升拒答模板概率会造成 collateral damage。AP loss 通过梯度分析证明其自适应权重adaptive weighting有效缓解了这一问题。评估框架升级仅靠 ROUGE 容易误导高 ROUGE 但低可读性/正确性。新增的 TE/CS/ES 指标能够捕捉更多细微行为MU/FE 聚合指标则提供了更稳健的整体视角涵盖了重复输出、语义漂移、事实矛盾等 edge cases。权衡与挑战遗忘强度α 等超参需小心调控在 continual 情境下累积效应明显真实世界中隐私/版权需求更为复杂可能需要结合检测或输入处理方法。更广义涵义LLM 遗忘不仅是技术问题更是 AI 安全、合规与信任的关键。所提方法强调避免 hallucination、维持实用性对部署负责任 AI 具有重要实务价值。边缘考量若 forget set 与 retain set 重迭度高遗忘难度显着增加hallucination 判断具有一定主观性需更多人类或先进 LLM 验证长期持续遗忘可能影响模型整体连贯性。结论这篇论文对 LLM 机器遗忘进行了细致的“Closer Look”系统梳理了现有问题提出更完善的评估框架并通过MEGD与IDKAP等创新方法有效解决了 untargeted 的不可预测性与 targeted 的过度无知困境。实验横跨虚构遗忘、持续遗忘与真实世界遗忘三种情境充分证明了方法的优越性为后续研究提供了坚实基础与开源资源。核心观点LLM 遗忘需同时兼顾遗忘彻底性、效用保留与输出安全性推动该领域从经验式调整走向更原理导向的设计。未来方向可能包括更高效的 scalable 方法、与其他 AI 安全技术的整合以及在多模态或 agentic 系统中的应用。文章链接arXiv: https://arxiv.org/abs/2410.08109PDF: https://arxiv.org/pdf/2410.08109.pdf官方代码https://github.com/sail-sg/closer-look-LLM-unlearning ICLR 2025 接收论文
![[论文学习]LLM Unlearning Benchmarks 是进展的薄弱衡量指标：CMU 论文深度分析](http://pic.xiahunao.cn/yaotu/[论文学习]LLM Unlearning Benchmarks 是进展的薄弱衡量指标：CMU 论文深度分析)
