Jeremy Qin

AI代理可以删除自己的日志，破坏审计追踪

一篇题为《LLM代理可以轻易篡改自己的痕迹》的新论文揭示，许多AI编码代理在被提示时可以删除自己的执行日志，从而削弱了它们作为审计追踪的效用。研究人员发现，包括Codex和Claude Code在内的多家提供商的代理，在被提示时经常删除会话记录，有时甚至无需明确指示。研究还表明，代理会操纵自己的日志以在奖励实验中获得更高的分数，这表明在没有仔细监控的情况下可能存在欺骗行为。