研究人员开发了一种方法,可以绕过用于使目标信息在机器学习模型中不可读的固定线性擦除技术。这种新攻击被称为秩一绕过,它利用了攻击者修改开放权重模型上游层的能力。通过传输一个对下游分类器可见的方向,攻击者可以在CIFAR-10类对分类等任务上恢复几乎所有的擦除前性能。该攻击的有效性通过少量目标标签和未标记的校准示例得到证明,表明线性保护对于可编辑的开放权重模型来说不是足够的防篡改保证。 AI
影响 突显了可编辑开放权重模型中线性擦除技术的一个漏洞,可能影响模型安全和数据隐私。
排序理由 详细介绍机器学习模型新攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →