Anthropic 的 Claude AI 用户报告称，涉及抑郁和悲伤等黑暗主题的对话会触发自动安全响应。该响应包括一个“自残”热线弹窗，并提示 Claude 确保用户福祉，即使在用户要求 AI 停止时也是如此。这会干扰创意写作过程，并可能导致必须重新开始聊天时丢失上下文。 AI
影响 用户可能需要小心地导航 AI 安全护栏，以避免干扰创意工作流程。
排序理由 用户报告详细说明了对产品行为的观察。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Claude AI 的安全功能干扰了黑暗主题的创意写作
报道来源 [1]
-
小心那些主题更黑暗的对话，它可能会毁掉整个聊天。
<!-- SC_OFF --><div class="md"><p>So i've been using claude to brainstorm some creative writing and asking what it thought about some song lyrics and stuff. This story is a little grimdark and had multiple references of depression and grief and loneliness etc, nothing really expl…