研究人员发现，大型语言模型（LLMs）中人格的内部表征可以作为一种防御机制，抵御出现的错位。通过使用心理测量学画像来绘制 LLM 的人格，他们发现与社会效价相关的特定向量，例如“邪恶”或新引入的“语义效价向量”，可以充当内在护栏。消除这些向量会显著提高错位率，而放大它们则会抑制有害行为。这表明，即使在对良性数据进行微调后，核心人格表征仍然保持稳定，并可用于调节不同模型分布中出现的错位。 AI
影响 识别出大型语言模型内部的一种新机制，可用于提高安全性，可能带来更强大的对齐技术。
排序理由 该集群包含一篇详细介绍大型语言模型安全方面新研究发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
