研究人员开发了一个新框架，用于理解大型语言模型（LLM）投票系统中的权衡，特别是在生成响应的预算有限的情况下。该研究引入了“发现到决策差距”的概念，该概念描述了已发现的答案如何在剩余预算内获得足够支持才能成为最终获胜者。他们推导出了一个严格的可恢复性阈值，并证明了候选集随着采样进程的推进而缩小，从而形成了一个特定的“转换窗口”。研究还发现，合并不正确的答案身份并不能提高准确性，而输入排列可以显著提高原始多数投票的准确性，同时精确锁定机制可以在不影响固定预算输出的情况下节省大量的调用次数。 AI
影响 为在资源约束下优化LLM集成推理和响应选择提供了理论框架。
排序理由 学术论文，详细介绍了LLM响应聚合的新理论框架和实证研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
