实体
Iterative Context Optimization
Iterative Context Optimization
PulseAugur coverage of Iterative Context Optimization — every cluster mentioning Iterative Context Optimization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的ICO框架将AI越狱成功率提高到74.6%
研究人员开发了一个名为迭代上下文优化（ICO）的新框架，以增强针对基础模型的语义转移越狱。该方法侧重于优化攻击中使用的上下文信息，因为具有更强语义转移能力的上下文更能有效地引导模型将良性术语重新解释为有害概念。ICO在各种数据集和模型上始终优于现有方法，平均攻击成功率为74.6%。
-
新研究通过先进的检测和防御策略应对LLM越狱 · 跟踪7个来源
研究人员正在开发先进的方法来检测和防止针对大型语言和视觉语言模型的越狱攻击。SALLIE等新技术通过分析模型内部状态提供免生成、跨模态检测，而NeuroBreak则专注于理解神经元级别的安全机制。其他方法包括使用心理学原理自动生成多轮攻击数据集，以及利用已知攻击示例的检索增强防御（RAD）等自适应防御。新颖的策略还探讨了诱饵图像如何放大现有防御能力，以及迭代上下文优化如何增强语义偏移越狱。