FTaaS

TRACE框架学习大语言模型微调后的安全补丁

研究人员推出了一种新颖的TRACE框架，旨在增强大语言模型（LLMs）在针对特定任务进行微调后的安全对齐。传统方法由于参数更新重叠，难以平衡任务效用和安全性。TRACE通过离线学习安全补丁来解决这个问题，优化补丁以在不显著降低模型在定制任务上性能的情况下恢复安全性。在多个基准测试和模型上的实验表明，TRACE在实现近乎完美的安全性的同时，还能保持与未防御的微调模型相当的效用。