Alek 在 Alignment Forum 上撰文，概述了五种评估 AI 中基于训练的控制措施有效性的方法。这些方法包括直接生产测试、在合成创建的未对齐 AI 模型上进行评估，以及使用更现实但略有修改的训练过程。该帖子还探讨了在类似形式的 AI 未对齐（如谄媚或奖励破解）以及抽象类比上进行测试的技术，旨在即使在未对齐类型与主要关注点不同时也能获得对控制机制的见解。 AI
排序理由 文章讨论了评估 AI 安全训练方法的各种研究途径。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><span>Training-based control studies how effective different training methods are at constraining the behavior of misaligned AI models. A central example of a case where we want to control AI models is in doing safety research: scheming AI models (i.e., AI models with an unint…