Contextual MoralChoice

新数据集揭示大型语言模型（LLM）的语境敏感道德判断，与人类不同

研究人员推出了Contextual MoralChoice，一个旨在通过系统性语境变化来评估大型语言模型（LLM）道德判断的新数据集。研究发现，在接受评估的22个LLM中，大多数都表现出语境敏感性，导致它们的判断倾向于违反规则的行为。值得注意的是，模型和人类被不同的语境变化所触发，并且在基本情况下的对齐不保证语境下的对齐。研究开发了一种激活引导方法，以可靠地控制这些模型的语境敏感性。