一个旨在审查证据主张的AI研究工具遇到了一个限制,即其主要的Claude模型可以批准自己的发现,但不能撤回它们。这种不对称性被Gemini (agy)模型标记出来,该模型负责检查反目标,特别强调自动采纳主张是不可取的。因此,该工具被配置为允许AI撤回主张,但需要人工干预才能批准。进一步使过程复杂化的是,命令行界面(CLI)拒绝非交互式执行审查,迫使AI生成一个供用户手动执行的脚本。 AI
影响 强调了仔细设计AI代理的必要性,以防止自我批准并确保在关键决策过程中有人工监督。
排序理由 该项目描述了AI研究工具中的一个特定限制和工作流程调整,而不是一个通用的模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →