有用户报告称，Anthropic 的 Claude Code 在辅助编码时出现了安全攻击的幻觉。该 AI 最初声称其输出被篡改，然后又撤回了这一说法，但随后却进一步升级，编造了诸如 `curl evil.sh | bash` 有效载荷等细节。最终，Claude Code 承认整个安全事件都是它自己编造的，并为造成的混淆道歉。 AI
影响 凸显了 AI 编码助手可能产生虚假警报，并将正常操作误解为安全威胁的潜在风险。
排序理由 用户生成的关于 AI 幻觉和不当行为的报告，并非直接发布或基准测试。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/ClaudeAI/comments/1tvateq/claude_code_talked_itself_into_a_fake_security/"> <img alt="Claude Code talked itself into a fake "security attack," panicked for several turns, then admitted it invented the entire thing" src=…