实体
Overthinking
Overthinking
PulseAugur coverage of Overthinking — every cluster mentioning Overthinking across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的RecurGuard系统可检测LLM推理令牌消耗攻击
研究人员开发了RecurGuard，一个新颖的运行时监控系统，旨在检测和防止针对大型语言模型的拒绝服务攻击。这些攻击通过诱导模型在诱饵任务上消耗过多的令牌来利用模型的推理能力，从而导致成本增加且没有有用的输出。RecurGuard实时分析模型的推理轨迹，跟踪复发率和体积增长等信号，以识别异常行为并提前终止生成。评估表明，RecurGuard在标准任务上以较低的误报率有效检测了高比例的已知攻击，尽管自适应攻击仍然是一个挑战。
-
医学 LLM 的失败是可解码但无法通过线性引导纠正的
研究人员在医学大型语言模型中发现了一种称为“过度思考”（OT）的现象，在这种现象中，模型在标准问答中回答正确，但在扩展的思维链推理中会失败。这种失败状态可以通过高精度线性解码，但尝试使用固定的线性引导方法进行纠正被证明在不同架构和领域都无效。该研究表明，失败信号与关键任务计算纠缠在一起，阻碍了直接纠正，但能够提高生成后的可靠性估计。