一项新的分析表明，大型语言模型在解决多项选择题时并非仅依赖于“正确答案特征”。理论论证表明，该特征（据称根据选项的 token 来评估其正确性）无法解释所有类型的问题，特别是那些正确性取决于后续信息或非传递性选项的问题。来自 Llama 模型的实证证据进一步支持了这一观点，表明在问题优先和选项优先的提示下，模型使用了相同的注意力头，这使得“正确答案特征”作为多项选择题回答的主要机制的说法受到质疑。 AI
影响 挑战了关于大型语言模型推理的一个普遍假设，暗示了多项选择题回答存在更深层次的机制。
排序理由 该条目是一篇研究论文，提出了关于大型语言模型能力的理论和实证证据。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
