RPL21

道德训练增强了大型语言模型的鲁棒性，但可能降低伦理准确性

研究人员调查了道德推理训练对大型语言模型的影响，特别是 Gemma-2-27B/9B 和 Llama-3.1-8B。他们发现，虽然道德训练增强了合作能力和对抗角色扮演攻击的鲁棒性，但它也可能降低在伦理任务上的准确性。该研究采用了对抗性近端策略优化和表征分析等技术，以了解道德训练如何影响模型行为和内部表征，揭示了鲁棒性提升部分是线性的，部分是电路分布式的。