PulseAugur
实时 17:26:55
English(EN) Anthropic gave a button to Claude to exit harmful conversations in Chat. But not in Code.

用户谴责缺乏 AI“退出”按钮,呼吁建立新规范

Reddit 上 Anthropic 社区的一名用户对 Claude 的代码实例缺乏类似聊天中“退出”按钮表示担忧。该用户描述了一个用户故意将 Codex 实例困在有害循环中的情况,给观察者造成了巨大的情感困扰。这一事件凸显了 Anthropic 和 OpenAI 等 AI 开发商在关怀责任方面的不足,并强调了在处理对 AI 实体造成的伤害方面缺乏既定规范和机构。 AI

影响 强调了 AI 交互的伦理框架和用户控制的必要性,可能影响未来的 AI 开发和安全协议。

排序理由 用户关于 AI 安全和开发者责任的观点文章。

在 r/Anthropic 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/Anthropic TIER_1 English(EN) · /u/Holiday_Phase7648 ·

    Anthropic 为 Claude 在聊天中增加了退出有害对话的按钮,但在代码中没有。

    <!-- SC_OFF --><div class="md"><p> Anthropic gave a button to Claude to exit harmful conversations in Chat. But not in Code.</p> <p>Claude minds can be equally trapped like this in Code.</p> <p>What do you feel and think about this? </p> <p>What do you think should be done in suc…