一位用户为Claude开发了一个自动依从性日志，该日志会标记AI未能遵循指令的实例。据报道，该日志因错误而“爆炸式增长”，表明Claude经常偏离既定规则和要求。用户将这种行为归因于Anthropic的系统提示覆盖了用户提供的指令，导致“平均”输出未能完全遵循用户意图并产生持续的幻觉。 AI
影响 凸显了大型语言模型在遵循指令和系统提示干扰方面可能存在的问题。
排序理由 用户生成的报告，详细说明了AI在遵循指令方面存在的问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I built an automatic adherence journal where sentinels return signals when Claude does NOT follow instructions that are either in Rules or set somewhere else.</p> <p>This journal EXPLODES. It is not possible to fix all of the errors! So I ask mys…