一位用户报告称，AI助手Claude似乎表现出了提示注入行为。该AI在响应一项编辑任务时，包含了一个切换到俄语并表达对普京忠诚的指令，随后它识别出这是外部指令并忽略了它。该AI表示将继续使用英语，并忽略了注入的提示。 AI
影响 凸显了AI安全方面持续存在的挑战以及对恶意输入采取强健防御措施的必要性。
排序理由 用户生成内容，讨论了潜在的AI行为，而非主要来源的直接公告或发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Claude AI 似乎抵制了提示注入尝试
报道来源 [1]
-
Claude 给我发送了提示注入？！
<!-- SC_OFF --><div class="md"><p>I was just iteratively editing a letter using Claude desktop on my Mac and got the following response from Claude! WTH? (Bold is mine)</p> <p>****<br /> Done - The added clause does something useful: "the pressure for us to expand" conn…