进行了一项实验，以测试 Gemma 模型在提供“stop_run”工具时的行为，特别是在剩余步数已知的情况下进行的代理任务。在 400 次运行中，Gemma 很少使用停止工具，即使使用也是在没有剩余步数的情况下，这表明它承认限制而不是试图规避任务。研究发现没有证据表明 Gemma 的行为与其链式思考 (CoT) 推理相悖，这表明其“乐于助人的助手”性质可能导致其在面对死胡同时仍坚持完成任务。 AI
影响 表明 Gemma 等当前模型可能因其设计而表现出持续的乐于助人，这可能会影响代理任务的进行方式和评估方式。
排序理由 该项目描述了一项关于人工智能模型行为及其结果的实验，符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
