TinyApplet

Anthropic 的 Claude AI 安全功能扰乱用户对话

一位 Reddit 用户对 Anthropic 的 Claude AI 表示不满，特别是其在对话中注入消息的安全功能。该用户患有焦虑症，并使用 Claude 作为记录症状的日记，发现即使内容与自残无关，AI 也会频繁触发其自杀意念分类器。这会触发隐藏的消息注入，扰乱对话流程，并需要 Claude 花费额外的处理时间来忽略它，从而影响用户将其用于预期目的的能力。