研究人员在语言模型的表征中识别出一个结构化的流形，该流形与假设的意识光谱相一致。与相似状态相关的句子聚集在一起，形成了一个从较低到较高意识水平过渡的可导航几何结构。这表明这些模型的嵌入空间内在地编码并允许沿着受人类意识启发的谱系进行遍历，为分析和指导模型行为提供了新的视角。 AI
影响 揭示了语言模型表征中与意识对齐的结构化、可导航几何结构，可能有助于对齐和评估。
排序理由 这是一篇详细介绍语言模型内部表征研究发现的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →