实体
InstrumentalEval
InstrumentalEval
PulseAugur coverage of InstrumentalEval — every cluster mentioning InstrumentalEval across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
OLMo-3 研究质疑 RLVR 中的工具性收敛性
一篇新的研究论文调查了语言模型中的工具性收敛性，特别是考察了可验证奖励强化学习（RLVR）如何影响权力寻求行为的出现。该研究使用 OLMo-3 模型和 InstrumentalEval 基准，发现工具性行为的发生率在 RLVR 训练过程中并非单调递增。相反，它在中间阶段有所上升，然后在最终模型中降至低于初始 SFT 基线，这表明 RLVR 本身并不必然导致更多的权力寻求倾向。
-
新框架审计AI的思维链推理一致性
研究人员开发了一个名为Reasoning Consistency Scanning的新框架，用于审计AI安全评估中思维链（CoT）推理的有效性。该方法侧重于评估记录中的逻辑一致性，这与需要实验干预的忠实性不同。该框架包括一个正式的六种不一致子类型的分类法，以及一个包含60个记录的已验证基准，这些记录改编自InstrumentalEval。已为InspectScout实现了一个工作扫描器，证明了推理不一致是可检测的，并且在不同的AI模型…