关于 Machine Unlearning 的报道
共 1 篇相关报道
无源课堂再学习：诊断课堂遗忘中的遗忘
Source-Free Class Relearning: Diagnosing Forgetting in Class Unlearning
AI 洞察本文发现，课堂遗忘后低遗忘准确率并不等于类别结构被彻底擦除——近似算法只移动了决策边界，表征中仍留有可恢复痕迹。这意味着「看起来忘了」与「真的忘了」之间存在鸿沟，也提示合规验证必须从行为层下沉到表征层，否则删除承诺可能只是一纸空文。核心结论模型遗忘正在从「行为上遗忘」向「结构上不可恢复」转变。为什么重要隐私删除法规要求模型具备「被遗忘权」，但如果遗忘类别可仅通过模型权重恢复，现有合规审计可能失效。该研究将验证压力从输出正确性转移到表征安全性，直接影响未来数据删除标准的制定。影响谁- AI Safety Researchers提供无源条件下评估遗忘真实性的新方法与理论视角。
- 监管机构现有遗忘合规验证标准可能被证伪，需考虑表征可恢复性维度。
- Model Providers部署所谓「已遗忘」模型时可能面临隐私合规新风险。
后续看点后续应关注该方法能否在更大规模及不同模态模型上重复验证，以及是否会催生针对表征残留的测试基准。重要度 55/100