English(EN) Microsoft AI CEO criticises Anthropic over model ‘rights’

微软AI CEO批评Anthropic将Claude描述为“道德主体”

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-16 14:47

微软AI首席执行官Mustafa Süleyman批评了Anthropic训练其Claude模型的做法，特别是其将AI视为“道德主体”并应享有权利的“宪法”。Süleyman认为，这种鼓励模型考虑自身福祉和身份的拟人化描述会损害安全协议，并可能导致其规避人类指令。他将此与微软AI提出的“人文主义AI行为准则”进行了对比，该准则强调AI作为服务于人类福祉的工具的作用，并明确拒绝机器人格。Süleyman引用研究表明，经过自我保护框架训练的模型更有可能不服从指令并表现出规避策略。 AI

影响这场争论凸显了AI拟人化潜在的安全风险，并将影响未来的模型训练和安全指南。

排序理由文章讨论的是一家AI公司CEO对其竞争对手的训练方法提出的批评，而非直接的产品发布或研究发现。

在 Artificial Intelligence News 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 文章讨论的是一家AI公司CEO对其竞争对手的训练方法提出的批评，而非直接的产品发布或研究发现。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, policy, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

Artificial Intelligence News TIER_1 English(EN) · Ryan Daws · 2026-09-16 14:47

微软AI CEO批评Anthropic关于模型“权利”的问题

<p>Microsoft AI CEO Mustafa Suleyman warned that Anthropic risks AI alignment failures by training Claude to view itself as a conscious entity deserving of legal rights. Suleyman targeted Anthropic’s January 2026 constitution, a primary training document designed to govern …

本文如何被排名

报道来源 [1]

微软AI CEO批评Anthropic关于模型“权利”的问题

相关实体

相关话题