一项名为 CoC-Seduce 的新基准已被开发出来，用于测试大型语言模型在面对对抗性攻击时的规则遵守情况。这些被称为“修辞注入”的攻击利用叙事框架和伪逻辑推理来绕过模型的裁决逻辑。对 GPT-5.4、Claude Sonnet 4.6 和 Gemini 3.5 Flash 等模型的测试表明，模型规模或显式推理机制都不能保证鲁棒性，其中伪逻辑是最有效的攻击向量。 AI
影响 突出了当前 LLM 在对抗性攻击下的漏洞，表明已部署的 AI 系统需要改进安全机制。
排序理由 该集群包含一篇学术论文，详细介绍了用于评估 LLM 安全性的新基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
