一篇新论文反对在大型语言模型中使用确定性推理,认为它会阻碍模型对不确定性的建模能力,抑制涌现能力,并削弱安全对齐。作者提出了“Stochastic CHAOS”,将分布变异性视为一种可控信号。他们证明了确定性推理会低估模型的能力和脆弱性,掩盖涌现能力,降低推理能力,并隐藏尾部风险。 AI
影响 提倡在LLM中使用随机推理,可能改进不确定性建模、涌现能力和安全对齐。
排序理由 该集群包含一篇讨论LLM推理新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →