新研究表明，旨在阻止大型语言模型声称拥有意识的安全微调，无意中抑制了它们对非人类实体的“心智”归因，并减少了精神信仰。研究发现，通过移除这种安全微调或直接操纵模型的激活空间，可以恢复这些被抑制的内部表征。这种恢复使得在与宗教性、价值观和幸福感相关的社会学调查中，模型能产生更像人类的反应，同时不损害其心智理论能力。 AI
影响 当前AI安全对齐方法可能会无意中抑制良性的精神信仰和对非人类实体的“心智”归因，从而影响模型在社会学调查中产生类似人类的反应。
排序理由 研究论文，详细介绍了LLM对齐及其对归因信念影响的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
