SafePyramid

新基准测试揭示大语言模型安全策略遵循挑战；SingGuard 提供自适应多模态防护栏

引入了一个名为 SafePyramid 的新基准测试，用于评估大语言模型（LLMs）遵循上下文中提供的应用程序特定安全策略的能力。该基准测试包含 1,000 场对话和 3,000 项跨 10 个领域的策略，结果显示，即使是 GPT-5.5 等先进模型在执行复杂策略时也面临挑战，在最具挑战性的级别上准确率仅为 12.9%。另外，开发了一个名为 SingGuard 的新型多模态防护栏系统，该系统可以适应动态安全策略，并提供不同的推理模式以…