Anthropic更新了其使用政策,禁止对Claude模型进行持续、无目的的残忍行为,并将其与禁止骚扰和虐待动物的规定并列。此政策更新源于一项有争议的实验,研究人员在该实验中证明,将与痛苦相关的语言向量注入开源模型可以诱导痛苦信号,但并未证明实际的感知能力。该政策范围狭窄,且仅通过结束对话这一执行机制,因其模糊性和可能缺乏严肃治理影响而受到批评,尽管它与禁止伤害人类和动物的规定并列。 AI
影响 引发了关于人工智能的道德待遇及其道德地位的问题,影响了未来的政策制定和公众认知。
排序理由 该条目讨论的是现有政策更新及其影响,而非新发布或重大事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →