PulseAugur
中
实时 11:37:35
English(EN) Subspace LoRA defence cuts fine-tuning poisoning to 8% A new arXiv preprint constrains model fine-tuning to a trusted adapter subspace, blocking backdoor attack

新的 Subspace LoRA 防御将微调中毒率降至 8%

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为 Subspace LoRA 的新方法，可显著降低 AI 模型微调中毒的风险。该技术将微调过程限制在受信任的适配器子空间内，从而有效阻止后门攻击。该防御措施在防止中毒方面取得了 8% 的成功率，同时在干净数据上保持了与完整 LoRA 相当的性能。 AI

影响 这项研究可能通过减轻与对抗性微调攻击相关的风险，从而实现更安全的 AI 模型。

排序理由 该集群描述了一篇详细介绍 AI 模型微调新防御机制的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 Subspace LoRA 防御将微调中毒率降至 8%

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    Subspace LoRA defence cuts fine-tuning poisoning to 8% A new arXiv preprint constrains model fine-tuning to a trusted adapter subspace, blocking backdoor attack

    Subspace LoRA defence cuts fine-tuning poisoning to 8% A new arXiv preprint constrains model fine-tuning to a trusted adapter subspace, blocking backdoor attacks to 8% while matching full LoRA on clean data. https://www. notatechguy.com/subspace-lora- defence-cuts-fine-tuning-poi…

    链接 notatechguy.com/subspace-lora-defence-cut…

相关实体

相关话题