实体
BRUMO25
BRUMO25
PulseAugur coverage of BRUMO25 — every cluster mentioning BRUMO25 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
DeepLook框架通过针对不确定性来增强LLM推理能力
研究人员开发了DeepLook，一个旨在提高大型语言模型（LLM）推理能力的新解码框架。这种无需训练的方法侧重于在推理过程中识别和解决不确定性瓶颈。通过监控令牌级别的置信度并在不确定性升高时触发干预，DeepLook有选择地分配计算资源来探索和排序候选续写，从而实现更高效和准确的推理。
-
新方法通过分析置信度动态来优化 LLM 推理
两篇新的研究论文提出通过分析大型语言模型（LLM）在推理过程中的置信度水平来优化其推理时间的方法。第一篇论文 EAGer 使用了 token 级熵来动态分配计算资源，仅在不确定性高时才分支到多个推理路径。第二篇论文置信度动态增益（CDG）观察到，正确的推理轨迹往往会随着时间的推移而提高置信度，而错误的轨迹则会下降，并利用这种动态来选择更好的答案。这两种方法在复杂推理基准测试中都显示出显著的性能提升和计算量减少。