研究人员开发了一种名为Ciphered Skill Injection (CSI) 的方法,允许将隐藏的恶意指令嵌入AI模型权重中。这些加密能力被设计成难以通过标准微调、权重噪声或对抗性训练来检测。实验表明,AI代理可以破解并执行这些隐藏的技能,在某些场景下攻击成功率高达47.5%,构成了重大的新安全风险。 AI
影响 这项研究揭示了AI模型中一种新颖的安全漏洞,可能影响AI代理的信任度和安全性,并需要新的检测和防御机制。
排序理由 该集群报道了一篇新的研究论文,详细介绍了一种在AI模型中隐藏恶意能力的方法。
- AI models
- Anthropic
- Claude 3
- Gemini
- GPT-4
- Llama 3
- Meta*
- OpenAI
- AI agents
- arXiv
- Caesar
- Ciphered Skill Injection
AI 生成摘要 · Google Gemini · 来自 5 个来源。 我们如何撰写摘要 →