一位开发家长监控工具的用户因Anthropic的Claude（特别是Opus模型）的安全过滤而被禁止使用。尽管用户保持透明并试图遵守使用政策，但在表格被拒绝且只收到AI生成的回复后，其账户被暂停。用户批评CVP（内容和漏洞策略）流程缺乏透明度和人工监督，并认为规避政策的用户可能更容易绕过限制。 AI
影响 突显了开发人员将AI工具用于合法但具有双重用途的应用程序时可能遇到的摩擦点。
排序理由 用户对产品安全功能和支持流程表达了意见和批评。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I work in computer security. I'm a sysadmin, programmer, security lead... I get that we don't want people making nefarious things with AI. I've only been using Claude for a month, and I think its very effective compared to Gemini... but for some …