Self Consistency In Llms
PulseAugur coverage of Self Consistency In Llms — every cluster mentioning Self Consistency In Llms across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的SEVRA方法优化LLM推理，提高准确性和效率
研究人员开发了一种名为选择性推理分配验证（SEVRA）的新方法，以优化大型语言模型（LLM）的推理使用。SEVRA充当服务层控制器，决定是接受模型的初步答案还是进行额外的验证。在MATH500数据集上使用冻结的Qwen3-4B模型进行测试时，SEVRA在显著减少令牌使用量和有害答案翻转的同时，实现了比总是验证更高的准确性。然而，研究还发现，增加初始推理预算有时可以比选择性恢复产生更少的令牌，但结果相似或更好，这表明在采用选择性验证之前…
-
新的CGES方法将LLM调用次数减少58%，同时保持准确性
研究人员开发了一个新的贝叶斯框架，称为置信度引导的提前停止（CGES），以提高大型语言模型（LLM）查询的效率。与需要固定调用次数的传统自洽性方法不同，CGES在单个答案获得足够置信度后即可自适应地停止采样。这种方法显著减少了所需的LLM调用次数，在五个推理基准测试中平均减少了58%，同时保持了与标准自洽性策略相当的准确性。
-
自我一致性技术对现代大型语言模型显示出收益递减
一项新研究表明，自我一致性技术（通过生成多个推理路径来提高大型语言模型的准确性）的有效性正在降低，成本也在增加。研究人员发现，在 HotpotQA 和 MATH-500 等基准测试中，增加样本数量只能带来微小的准确性提升，而标记成本却呈线性增长。在某些情况下，样本越多，性能甚至会下降，这表明对于更现代、能力更强的模型来说，自我一致性可能引入的是噪声而非信号。
-
大型语言模型通过新技术解决模型崩溃、偏见和推理成本问题
开源大型语言模型工具包 LLM 0.32a1 的新版本已发布，修复了存储在 SQLite 中的工具调用对话中的错误，提高了 AI 代理的可靠性。此外，关于大型语言模型自适应思维的研究表明，通过动态分配推理资源，自洽性可以将推理成本降低 40%。另外，与康奈尔大学合作开发的一种名为直接引导优化 (Direct Steering Optimization) 的新方法，可在不影响性能的情况下将视觉语言模型中的人口统计偏见有效降低高达 62%。
-
通过口头批评进行过程监督可提高大型语言模型的推理能力
研究人员开发了一种名为口头过程监督（VPS）的新框架，该框架无需梯度更新即可增强大型语言模型的推理能力。该方法利用更强大的AI生成的结构化自然语言批评来指导迭代的生成-批评-精炼过程。在GPQA Diamond和AIME 2025等基准测试上的实验表明，VPS取得了显著的改进，超越了现有的最先进结果，并优于Reflexion和Self-Consistency等其他方法。