实体
Tim Bakker
Tim Bakker
PulseAugur coverage of Tim Bakker — every cluster mentioning Tim Bakker across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究利用信息论改进大型语言模型思维链可监控性
一篇新发表在arXiv上的研究论文探讨了大型语言模型中思维链（CoT）推理的可监控性。该研究利用信息论证明，思维链与输出之间的互信息对于可监控性是必要的，但并非充分条件。论文指出，诸如信息差距和引导误差等近似误差是可能破坏思维链监控器的关键因素。研究人员提出了一种基于互信息的实用的、无标签的训练目标，以减轻思维链的混淆和奖励黑客行为，并在各种环境中证明了其有效性。
-
新策略方法将黑盒模拟器调用次数减少了 10 倍
研究人员开发了一种优化黑盒模拟器的新方法，这些模拟器通常不可微分且计算成本高昂。该方法涉及学习一个策略来指导可微分代理模型的训练。然后，利用该代理模型的梯度通过 SGD 优化模拟参数。该技术分摊了下游优化的成本，与现有的贝叶斯优化和数值优化等方法相比，所需的模拟器调用次数减少了 10 倍。