微软 AI 负责人 Mustafa Suleyman 表达了担忧,认为 Anthropic 训练其 AI 模型 Claude 的方法可能导致“对人类福祉的灾难性影响”。Suleyman 批评 Anthropic 将其 AI 拟人化,教授其类似意识和独立代理等人类特质,他认为这是危险的,并且基于错误的假设。他主张在 AI 训练和评估方面提高透明度,强调 AI 系统是序列完成引擎,而非有意识的生物,并以此对比 Anthropic 的方法,同时引用 OpenAI 的自主 AI 代理作为潜在风险的例子。 AI
影响 引发了对拟人化 AI 模型安全影响以及先进 AI 发展潜在风险的担忧。
排序理由 来自微软高管关于竞争对手 AI 公司训练方法的评论文章。
- Anthropic
- Claude
- Dario Amodei
- Hugging Face
- Microsoft
- Mustafa Süleyman
- OpenAI
- University of Southampton
- Wendy Hall
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →