AI Now Institute 的报告审查了人工智能公司为管理与先进模型相关的风险而采取的自愿扩展政策。这些通过前沿模型论坛等渠道共享的内部安全措施旨在预防、减轻和纠正危害。虽然一些公司(如 Anthropic)将这些政策视为未来监管的原型,但报告指出,它们也可能导致监管俘获,因为公司可以控制叙事,并可能反对正式的法律要求。这些自我施加的限制的有效性受到质疑,因为它们可能与造福人类的既定使命不完全一致,并且可能被用来规避更强有力的民主监管选项。 AI
影响 探讨人工智能公司的自我安全政策如何影响未来监管并可能导致监管俘获。
排序理由 该项目是一份分析与人工智能安全政策相关的公司实践的报告,而不是直接的公告或事件。
- AI Now Institute
- AI Safety Summit
- Anthropic
- Dario Amodei
- Frontier Model Forum
- Responsible Scaling Policy
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →