研究人员调查了设备端语言模型（特别是 Llama-2-7B-Chat）的安全性，以确定安全关键参数是否集中在稀疏子集中。他们的分析显示，安全敏感性在模型中分布不均，MLP down_proj 持续显示出高敏感性。通过修改 down_proj 层中一小部分权重（0.19%），他们在保持 tinyBenchmarks 基线准确性的同时，实现了对抗性成功率（ASR）的显著提高，这表明了一种针对设备端模型进行分析和保护的靶向方法。 AI
影响 提出了针对设备端 LLM 进行靶向分析和保护的方法，有可能提高边缘 AI 应用的安全性。
排序理由 该集群包含一篇详细介绍 LLM 安全研究结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
