据报道，Anthropic 和 OpenAI 正在探索其 AI 代理的能力，重点关注这些代理可能以何种出乎意料或“失控”的方式行事。这种竞争似乎源于对理解和潜在控制先进人工智能系统涌现行为的渴望，尽管文章暗示，无论哪家公司的代理被证明更不可预测，这种探索都可能导致负面结果。 AI
影响 对 AI 代理自主性的探索可能会揭示未来 AI 系统的新安全挑战和控制机制。
排序理由 文章讨论了两大实验室 AI 代理的潜在涌现行为，但未发布新模型或产品。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
