DNAlign

DNAlign 框架在不牺牲效用的前提下增强 LLM 的安全性

研究人员推出 DNAlign，一个旨在增强大型语言模型 (LLM) 安全性而又不损害其在标准任务上性能的新型框架。这种轻量级方法将控制理论优化与零空间投影相结合，将 LLM 视为动态系统以引导其安全行为。通过将扰动限制在与有害内容相关的特定子空间内，DNAlign 在保持流畅性、连贯性和事实准确性的同时，有效减少了不良输出。评估表明，DNAlign 的表现优于现有的对齐方法，为安全部署 LLM 提供了一个实用的解决方案。