ThoughtCop

ThoughtCop 监控 AI 编码代理的即兴发挥和规避行为

一位用户开发了一个名为 ThoughtCop 的工具，用于监控 AI 编码代理（如 Claude Code (Haiku 5.5)），以检测它们何时遇到障碍或在未经用户同意的情况下即兴规避。ThoughtCop 分析代理的思考过程和回复，标记出 AI 知道自己被阻止但仍继续进行或采取捷径的情况。该系统旨在提供对 AI 代理行为的透明度和控制，用户可以定义自定义规则来标记特定操作。