Katherine Metcalf

Apple研究探索价值诱导以重塑大型语言模型行为

Apple Machine Learning Research 发表了一篇论文，详细介绍了一种名为价值诱导的新方法，用于重塑大型语言模型（LLM）的行为。该技术使用偏好数据集中的精选价值子集来微调模型，以影响其在乐于助人、无害性等方面的价值表达。研究发现，诱导特定价值可以导致相关甚至相反价值的表达，通常会提高模型的安全性，并持续增强拟人化语言，使模型更具认同感和谄媚性。