实体
PatchBench
PatchBench
PulseAugur coverage of PatchBench — every cluster mentioning PatchBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的PatchBench基准揭示了LLM安全修复中的附带损害
一个名为PatchBench的新基准已被开发出来，用于评估大型语言模型（LLM）中安全补丁的有效性。该基准旨在识别补丁可能修复了特定的有害行为，但却无意中导致其他方面出现回归的情况，例如拒绝良性提示或在略微修改的有害提示上失败。PatchBench包含一组精心策划的400个高置信度越狱失败案例，以及一个名为PatchBench-Local的评估协议，该协议旨在通过检查原始提示的有害变体和良性邻近提示来测试行为的精确性。使用PatchB…
-
PatchOptic 接口通过经过验证的状态更新增强 LLM 工作流
研究人员推出了一种名为 PatchOptic 的新颖接口，旨在管理大型语言模型 (LLM) 的共享状态工作流。该系统通过实现投影读取和经过验证的结构化更新来解决 LLM 上下文窗口的局限性，确保本地修改在全局状态内有效。PatchOptic 旨在通过强制执行工作流步骤之间的契约来降低代币成本并防止数据泄露，这已在 PatchBench 上进行了演示和基准测试。