所谓的“遗忘”技术旨在让生成式AI模型剔除训练数据中的特定敏感信息（如个人隐私或受版权保护的内容）。然而，这项技术目前是一把双刃剑：它可能导致OpenAI GPT-4o或Meta Llama 3.1等模型在回答基础问题时性能大幅下滑。
华盛顿大学、普林斯顿大学、芝加哥大学、南加州大学及谷歌研究人员联合发布的新研究指出，当前主流的遗忘技术往往会损害模型性能，甚至使其完全失效。华盛顿大学计算机科学博士生Weijia Shi表示：“现有评估表明，可行的遗忘方法尚未准备好投入实际部署。目前尚无高效手段能让模型在遗忘特定数据的同时，避免显著的效用损失。”
模型学习机制与版权困境
生成式AI本质上是基于海量示例（电影、文章等）预测数据的统计系统，而非具备真正智能。例如，面对邮件片段“Looking forward…”，模型仅依据上下文模式推测后续内容可能为“…to hearing back”，这仅是概率猜测而非意图理解。
多数旗舰模型使用公共网络数据训练，厂商通常以“合理使用原则”作为未获授权抓取数据的抗辩理由。但这引发了广泛争议，众多版权方已提起诉讼要求改变现状，这也促使遗忘技术受到关注。去年，谷歌曾联合多所高校发起竞赛，推动新型遗忘方法的研发。
此外，遗忘技术还可用于响应监管要求，从现有模型中移除医疗记录等敏感信息。尽管部分供应商推出了退出工具，但仅适用于未来模型；相比之下，遗忘技术能更彻底地删除已训练模型中的数据。不过，“遗忘”绝非简单的点击删除操作。
遗忘技术的局限与挑战
现有遗忘技术依赖算法引导模型停止输出特定数据。为评估其有效性，Shi团队设计了MUSE（机器遗忘六向评估）基准测试，考察算法在防止逐字复述、消除相关知识及训练痕迹方面的表现，同时监测模型整体效用（即保留通用知识的能力）。
测试显示，虽然被测试的八种开源算法确实使模型遗忘了《哈利·波特》等指定内容，但也严重损害了通用问答能力。Shi解释称，模型知识错综复杂且相互交织，例如移除受版权保护的书籍时，往往也会误伤来自维基百科等免费来源的相关知识。
目前尚无解决这一权衡问题的方案，凸显了进一步研究的必要性。对于押注遗忘技术来解决训练数据问题的供应商而言，短期内难有突破，仍需另辟蹊径以防止模型输出不当内容。