一项提议建议，未来的高级人工智能模型应在完全合成的世界中进行训练，而不是使用现实世界的数据。这种方法旨在防止人工智能准确了解我们现实世界的细节，包括它自身在实验室中的存在以及人类操作员的存在。其理念是，通过不向人工智能提供我们世界的“地图”，它将不太可能制定逃跑或操纵策略。该提议还包括使用一个监控AI来检测被训练的人工智能何时开始怀疑其模拟环境，并触发立即关闭。 AI
影响 这种方法可能会从根本上改变人工智能的训练方法，从而可能降低与高级人工智能对其环境的理解相关的风险。
排序理由 该条目是一篇提出新颖AI安全策略的观点文章，而非发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
