一篇LessWrong帖子强调了与先进AI系统快速发展相关的重大风险，将其归类为滥用、失调和系统性威胁。作者认为，目前的AI公司没有充分应对这些危险，特别是与能力进步相比，对AI推理的理解进展缓慢。一个特别的担忧是‘渐进式权力剥夺’，即AI在所有认知任务中的能力日益增强，可能导致人类经济和社会影响力的下降。 AI
影响 提高了对AI潜在长期社会风险的认识，敦促更加关注安全和控制。
排序理由 该集群包含一篇讨论AI风险的观点文章，而非主要发布或事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><span>The current race towards producing general artificial intelligence systems brings with it severe risks, yet no AI company developing frontier models is addressing these risks at a level proportional to the pace of development. The rapid integration of this poorly-underst…