PulseAugur
中
实时 07:50:01
English(EN) Defense Against LLM Backdoors using Critical Neuron Isolation Pruning

新的DeCNIP方法有效中和LLM后门

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为DeCNIP（Defense with Critical Neuron Isolation Pruning）的新方法，以对抗大型语言模型（LLM）中的后门攻击。与之前专注于微调或简单分类任务的防御方法不同，DeCNIP使用表示分析在一个统一的流程中识别和中和后门。它通过优化交叉熵损失来揭示触发机制，然后隔离并剪枝“后门关键神经元”（BCNs），以消除恶意影响，同时保持模型的效用。在六个开源LLM上的评估表明，DeCNIP在最小的神经元干预下实现了超过95%的攻击成功率降低，同时保持了97%的正常基准性能。 AI

影响 通过提供强大的防御能力来抵御复杂的后门攻击，从而增强了LLM的安全性。

排序理由 详细介绍LLM安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的DeCNIP方法有效中和LLM后门

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Yuxi Li, Zhibo Zhang, Kailong Wang, Xingshuo Han, Ling Shi, Haoyu Wang ·

    利用关键神经元隔离剪枝防御大语言模型后门

    arXiv:2607.19894v1 Announce Type: cross Abstract: Large language models (LLMs) are vulnerable to backdoor attacks, where hidden triggers induce malicious outputs. Existing defenses generally fall into inference-time detection or training-time mitigation, but face two key limitati…

相关实体

相关话题