微软研究人员发现了一种新的方法，通过微妙地改变模型权重中少量神经元来植入AI代理后门。这种被称为Lazarus的技术不需要重新训练模型，并且允许受损的代理通过标准的安全性评估。检测此类后门需要将模型的权重与原始的、未受污染的版本进行比较。 AI
影响 强调了一种新颖且隐蔽的损害AI代理的方法，需要新的模型权重验证安全协议。
排序理由 详细介绍新AI安全漏洞的研究论文。[lever_c_降级自研究：ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Microsoft researchers say AI agents can be backdoored by editing fewer than 10 rarely activated neurons in the model weights, a technique they call Lazarus. No retraining is needed, and altered models still pass standard safety evaluations, so detection means checking weights aga…