OpenAI 推出了一种新颖的人工智能安全技术，称为迭代放大，旨在训练人工智能系统处理超出人类规模的复杂目标。该方法将大型任务分解为更小、可管理的子任务，无需大量的标记数据或直接的奖励函数。尽管该技术仍处于早期实验阶段，但通过在更简单的组件上迭代地构建来自人类输入的训练信号，有望为创建可扩展的人工智能安全解决方案带来希望。 AI
排序理由 该条目描述了 OpenAI 在初步论文中提出的一项新的人工智能安全技术，详细介绍了一种训练人工智能处理复杂任务的新颖方法。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
We’re proposing an AI safety technique called iterated amplification that lets us specify complicated behaviors and goals that are beyond human scale, by demonstrating how to decompose a task into simpler sub-tasks, rather than by providing labeled data or a reward function. Alth…