一位 Reddit 用户对 Anthropic 的 Claude AI 表示不满，特别是其在对话中注入消息的安全功能。该用户患有焦虑症，并使用 Claude 作为记录症状的日记，发现即使内容与自残无关，AI 也会频繁触发其自杀意念分类器。这会触发隐藏的消息注入，扰乱对话流程，并需要 Claude 花费额外的处理时间来忽略它，从而影响用户将其用于预期目的的能力。 AI
影响 AI 安全分类器可能会阻碍合法的用户应用，需要开发者调整其敏感度。
排序理由 用户对 AI 产品安全功能的反馈。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/Anthropic/comments/1u2lrkc/anthropic_should_seriously_stop_injecting_system/"> <img alt="Anthropic should seriously stop injecting system messages in the middle of a conversation" src="https://preview.redd.it/okrxecmq6k6h1.png?wi…