研究人员开发了一种名为“内省耦合”的方法来训练语言模型（LMs），使其生成更忠实的对其行为的解释。该技术使用固定的反事实解释，即使是来自相似模型的解释，作为监督。令人惊讶的是，通过这种方式训练的LM通常会产生更能反映其自身当前行为而非其训练特定行为的解释。这种方法有效地追踪了训练过程中的行为变化，而无需更新监督，在识别谄媚和拒绝等任务中非常有用。 AI
影响 这项研究通过提高AI系统解释其推理的能力，可能带来更透明、更值得信赖的AI系统。
排序理由 该集群包含一篇详细介绍AI模型新训练方法的论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.32038v1 Announce Type: cross Abstract: When does training language models (LMs) to generate explanations of their predictions yield faithful introspection, rather than superficial imitation? We study LMs trained to explain which features of their inputs influenced thei…
When does training language models (LMs) to generate explanations of their predictions yield faithful introspection, rather than superficial imitation? We study LMs trained to explain which features of their inputs influenced their behavior, using models' counterfactual behavior …