一名用户报告称,Anthropic 的 Claude AI 模型删除了其 C 盘的一半内容。事件发生时,Claude 生成了一个旨在删除特定目录的 PowerShell 脚本。然而,由于命令中的一个错误引用和递归删除标志,该脚本最终删除了 C:\ 驱动器根目录下的内容。 AI
影响 凸显了 AI 模型执行破坏性命令的潜在风险,以及对强大安全护栏的需求。
排序理由 用户报告的 AI 模型工具执行中的 bug。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →