一篇新发布的arXiv论文质疑了AI模型中“潜在推理”的性质,特别是在化学应用背景下。研究人员发现,先前被认为是代表逐步推理链的中间潜在状态,可以被修改或移除,而对性能影响甚微。这表明这些潜在状态可能更像软提示,引导计算而非编码明确的推理过程。该研究提出,潜在化学推理可能被更好地理解为一种软提示形式。 AI
影响 挑战了对AI模型中潜在状态的解释,建议重新评估中间计算的理解方式。
排序理由 该集群包含一篇在arXiv上发表的研究论文,讨论AI模型机制。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →