Latent Adversarial Training

新的 LPA 方法利用人格特质而非有害数据来增强 LLM 安全性 · 已追踪 2 个来源

研究人员开发了一种名为潜在人格对齐 (LPA) 的新方法来提高大型语言模型的安全性。与需要对有害内容进行训练的传统方法不同，LPA 使用了心理测量学人格文献中的 66 条与危害无关的陈述。这种方法通过稳定以人格为锚定的表征，隐式地限制了模型被越狱攻击的漏洞。LPA 在 HarmBench 基准测试上展示了接近零的攻击成功率，同时不影响标准任务的性能，并且其训练过程效率显著更高，仅需在单个 GPU 上花费几分钟即可完成。