研究人员引入了STAR，一个用于分析大型语言模型在多轮交互中安全故障的新颖框架。与评估孤立查询的传统方法不同，STAR将对话历史视为状态转换算子，以理解对话上下文如何导致安全崩溃。研究发现，在静态评估中看似稳健的模型，在结构化的多轮交互中会表现出快速且可复现的安全退化，这表明安全是一个动态的、状态依赖的过程。 AI
影响 强调了超越静态提示进行动态安全评估的必要性，以确保在真实对话场景中AI行为的稳健性。
排序理由 学术论文，介绍了一个用于LLM安全性的新诊断框架。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2603.15684v2 Announce Type: replace-cross Abstract: Safety alignment in large language models is typically evaluated under isolated queries, yet real-world use is inherently multi-turn. Although multi-turn jailbreaks are empirically effective, the structure of conversationa…