twin-prefix framework

AI监管研究：更短的验证单元可改进大模型监控

一篇新研究论文介绍了一种“双前缀框架”，以更好地评估AI控制系统中预执行监管的有效性。该框架通过创建匹配的干净和注入错误的操作序列，帮助隔离“验证单元”（即监控器审查的操作数量）的影响。研究发现，虽然更长的审查窗口会增加捕获错误的数量，但它们也会同比例地增加错误拒绝，导致审查一到两个操作时的整体知情度达到峰值。这表明当前的监管协议可能过于倾向于拒绝，而不是真正具有辨别力，失败通常源于观察不足。