prompt-safety classification

LoRA与全参数微调：任务格式对提示安全分类至关重要

一篇新的arXiv论文研究了任务格式对语言模型适应性的影响，将低秩适应（LoRA）与全参数微调在提示安全分类上进行了比较。研究发现，仅在标签上训练时，全参数微调通常优于LoRA，但在LoRA被训练为在分类的同时生成推理解释时，这种差距缩小了。尽管模型在领域内准确率方面表现强劲，但在分布外对抗性提示方面却表现不佳，这表明适应方法和训练目标比单纯的领域内性能对鲁棒性更为关键。