BS-Neurons

新框架SafeNexus旨在解决多模态大语言模型中的安全神经元问题

研究人员开发了SafeNexus，一个旨在增强多模态大语言模型（MLLMs）安全性的新框架。该框架识别并操纵特定的神经元，称为“安全神经元”，它们对于跨模态调节模型行为至关重要。通过定位这些通用安全神经元（US-Neurons），SafeNexus旨在提高对跨模态威胁的防御能力，同时保持模型的整体效用。该方法包括通过激活模式来定位这些神经元，然后采用激活放大和选择性微调等策略来增强安全性。