实体
JailMeter
JailMeter
PulseAugur coverage of JailMeter — every cluster mentioning JailMeter across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究通过新颖的评估和防御方法解决 LLM 越狱问题 · 跟踪 4 个来源
最近的研究论文探讨了评估和防御大型语言模型（LLM）越狱尝试的新颖方法。一项研究系统地比较了六种自动越狱评估器，发现 JADES 表现最佳，并强调了评估器选择对报告攻击强度的重大影响。另一篇论文引入了一个后验重加权框架，用于理解和减轻上下文多模态越狱，展示了鲁棒性-效用权衡的改进。此外，还提出了一种名为 Bait-and-Recover 的防御机制，用于毒化内部拒绝信号，有效破坏开放权重模型上的白盒编辑越狱。最后，研究调查了不同越狱技…
-
新的框架出现以评估和防御LLM越狱 · 跟踪4个来源
研究人员正在开发新的方法来评估和防御大型语言模型（LLM）的越狱攻击。一种方法，不完整的提示越狱（IPJ），侧重于LLM如何延迟拒绝有害提示直到句子终止，并提出神经元级别的干预措施进行防御。另一个框架JailMeter使用信息瓶颈理论来更可靠地评估越狱的有效性，并取得了高精度。此外，Jailbreak Foundry提供了一个系统，将越狱论文翻译成可执行模块，用于可复现的基准测试，从而标准化不同模型和攻击的评估。