Kundan Krishna

解耦安全适配器提供高效的AI防护栏和灵活的对齐

研究人员开发了Disentangled Safety Adapters (DSA)，一个旨在提高AI安全性和对齐性而又不牺牲推理效率或灵活性的新框架。DSA通过使用轻量级适配器与基础模型的现有表示集成，从而能够以最小的性能影响实现多样化的安全功能。实验表明，基于DSA的防护栏在仇恨言论检测和幻觉减少等任务上显著优于同等大小的独立模型，而基于DSA的对齐则实现了安全与性能权衡的动态、细粒度控制。