一篇题为《监督空白》的新研究论文引入了一个评估大型语言模型（LLM）安全监控器的新颖框架。该论文认为，依赖单一执行轨迹的标准监控器从根本上无法认证诸如跨租户不干扰等关键属性。研究人员提出用定量测量取代二元评估，将“监督空白”定义为监控器性能与最优边界之间的差距。研究发现，虽然一些监控器在零总变差（TV）时表现良好，但随着TV的增长，其有效性会显著下降，在某些情况下，简单的成员资格检查的性能优于它们。论文总结认为，信息和程序对于有效的监控都是必需的，而这些与模型能力是不同的。 AI
影响 识别出当前大型语言模型安全监控的基本局限性，表明需要新的评估方法。
排序理由 研究论文发布在arXiv上，详细介绍了大型语言模型安全监控的新理论框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
