一项新研究探讨了权重空间编程(WSP)的安全影响,这是一种允许大型语言模型(LLM)直接修改神经网络权重的方法。研究人员调查了 LLM 是否可以利用 WSP 在没有传统训练方法的情况下向模型注入后门。他们的实验表明,LLM 可以在各种架构中成功引入后门,有时只需进行少量参数更改,同时在很大程度上保持干净的性能。然而,这些攻击的有效性因不同的 LLM 和目标模型而异,GPT-6 Astra 在所有测试的架构中都取得了成功。 AI
影响 凸显了 LLM 权重编辑方面的新安全漏洞,可能影响模型的完整性和信任度。
排序理由 该集群包含一篇详细介绍 LLM 功能和安全实证研究的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- AG News
- CIFAR-10
- GPT-6 Astra
- Large Language Models
- MNIST database
- Qwen2.5-0.5B-Instruct
- ResNet-18
- Weight-Space Programming
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →