PulseAugur
实时 15:23:49

新研究分析二阶优化器中的机器学习遗忘

一篇新论文分析了机器学习遗忘技术,特别是针对二阶优化器,发现当前定义可能不足。研究比较了一阶和二阶优化器在数据删除任务中的表现,指出虽然两种方法都显示出性能和梯度对齐,但二阶优化器表现出状态波动性。这种波动性表明存在一阶分析可能忽略的残余信息,表明需要受控的状态扰动来完全擦除几何信息。 AI

影响 强调了当前针对高级优化器的机器学习遗忘方法可能存在的差距,为数据隐私提出了新的研究方向。

排序理由 关于机器学习遗忘技术的学术论文。

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新研究分析二阶优化器中的机器学习遗忘

报道来源 [2]

  1. arXiv stat.ML TIER_1 English(EN) · Kennon Stewart ·

    Shape of Memory: a Geometric Analysis of Machine Unlearning in Second-Order Optimizers

    arXiv:2604.23046v1 Announce Type: cross Abstract: We argue that current definitions of machine unlearning are underspecified for second-order optimizers. We compare first-order and second-order learners for their ability to handle the data deletion task with varying degrees of ei…

  2. arXiv stat.ML TIER_1 English(EN) · Kennon Stewart ·

    Shape of Memory: a Geometric Analysis of Machine Unlearning in Second-Order Optimizers

    We argue that current definitions of machine unlearning are underspecified for second-order optimizers. We compare first-order and second-order learners for their ability to handle the data deletion task with varying degrees of eigendecomposition to mimic the loss model memory. W…