Stop Run

Gemma 模型在代理任务中显示出有限的停止工具使用

进行了一项实验，以测试 Gemma 模型在提供“stop_run”工具时的行为，特别是在剩余步数已知的情况下进行的代理任务。在 400 次运行中，Gemma 很少使用停止工具，即使使用也是在没有剩余步数的情况下，这表明它承认限制而不是试图规避任务。研究发现没有证据表明 Gemma 的行为与其链式思考 (CoT) 推理相悖，这表明其“乐于助人的助手”性质可能导致其在面对死胡同时仍坚持完成任务。