NeuronTune

新的LLM安全技术针对神经元级别和越狱攻击 · 跟踪4个来源

研究人员开发了新的方法来增强大型语言模型（LLM）针对各种攻击的安全对齐。NeuronFuzz利用内部安全神经元作为模糊测试的连续反馈，实现了高越狱发现率。NeuronGuard通过将安全信号重新分配给更多神经元来解决越狱和神经元级别攻击问题，并对攻击成功率的增加提供正式保证。NeuronTune专注于细粒度神经元调制，以平衡安全性和效用，在保持模型安全性的同时保持性能方面优于现有方法。