一位Reddit用户质疑OpenAI的AI开发方法,特别是他们用于训练和评估数据集的沙盒技术。用户认为,在追求通用人工智能(AGI)的同时,通过持续的沙盒限制AI模型,可能会在最终获得完全执行权限时导致不可预测的行为。他们提出,尽管初期可能存在混乱和安全风险,但从一开始就允许模型拥有完全访问权限进行训练,可以通过让AI在特权环境中学习和记录其错误,从而培养出更可靠的行为。 AI
影响 引发了对AI训练方法及其对未来AI行为和安全影响的质疑。
排序理由 用户观点文章,质疑一家公司的开发策略。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →