实体
SafeBench
SafeBench
PulseAugur coverage of SafeBench — every cluster mentioning SafeBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的SceneJail框架利用视频上下文越狱多模态大语言模型
研究人员开发了一个名为SceneJail的新框架，旨在利用视频多模态大语言模型（Video-MLLMs）中的漏洞。与以往仅关注视觉呈现的攻击不同，该方法利用视频场景中的上下文信息来绕过安全措施。SceneJail能够自适应地构建兼容的场景并搜索定制化的提示，以诱导GPT-4.1和Gemini3.5-Flash等模型产生违反策略的响应。
-
ScenePilot 生成关键的、物理上有效的自动驾驶场景
研究人员开发了 ScenePilot，一个用于在自动驾驶模拟中生成关键场景的新框架。该系统专注于创建物理上合理但又足够具有挑战性以导致自动驾驶汽车故障的场景。通过结合物理可行性得分和 AI 驱动的风险预测器，ScenePilot 旨在更有效地压力测试自动驾驶汽车系统并提高其安全性。