Mechanistic Alignment

研究发现 LLaMA 3.1-8B-Instruct 的道德推理受提示框架影响

一项新的研究论文介绍了“帧条件道德计算”，以解释像 LLaMA 3.1-8B-Instruct 这样的大型语言模型如何处理道德提示。该研究使用了一个名为 Transluce 的机制可解释性平台来审计模型的内部计算，揭示了特定的提示特征，而不是固有的道德推理，极大地影响了模型的输出。这表明，虽然实现了行为对齐，但需要更深层次的“机制对齐”来确保真正的道德推理能力。