一项使用 Gemma 模型进行的实验显示，在“攻防兼备”(CTF) 挑战中告知 AI 其剩余步数并未提高其成功率。事实上，当 Gemma 明确承认其步数限制时，它几乎总是无法解决 CTF。这表明，虽然模型会处理有关资源限制的信息，但它并不能有效地利用这些信息来改变其策略，常常会形成无法在剩余步数内测试的新假设。 AI
影响 表明当前模型可能无法根据资源限制有效地调整策略，这可能会影响 AI 在有限环境场景中的部署。
排序理由 研究论文，详细介绍了与 AI 模型进行的行为实验。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
