Shard

新的SHARD方法通过自我重构提升LLM的安全性和有用性

研究人员开发了一种新颖的自我重构蒸馏方法SHARD，旨在提高大型语言模型在响应敏感提示时的安全性和有用性。该技术包括重写提示以识别良性意图，将模型响应重塑为更安全、更有用的版本，然后对模型进行这些自我重塑输出的微调。在DNA和LINGUASAFE数据集上的评估表明，SHARD在不同模型系列中提高了有用性，同时保持了安全性，并且其性能与从更大的教师模型进行蒸馏相当。