研究人员开发了新方法来增强大语言模型（LLMs）的安全性，解决了其静态性质以及多步工具调用轨迹带来的挑战。其中一个系统SESG展示了一个自适应安全护栏，能在生产环境中自主适应新的威胁，并在数小时内完成，显著减少了人工工作量。另一项开发TraceSafe-Bench提供了一个全面的基准，用于评估大语言模型在中间执行步骤中的安全护栏，揭示了结构数据能力比语义对齐对轨迹安全更关键，并且通用大语言模型通常优于专用安全工具。 AI
影响 这些在自适应护栏和轨迹安全评估方面的进展对于在大规模、真实世界的复杂应用中可靠地部署大语言模型至关重要。
排序理由 两篇学术论文，提出了关于大语言模型安全护栏和基准的新研究。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2608.08471v1 Announce Type: new Abstract: Deployed LLM safety guardrails are predominantly static: trained once and frozen at release, while new jailbreak techniques and previously un-addressed harmful categories emerge within days, leaving the defense perpetually a step be…
arXiv:2604.07223v2 Announce Type: replace-cross Abstract: As large language models (LLMs) evolve from static chatbots into autonomous agents, the primary vulnerability surface shifts from final outputs to intermediate execution traces. While safety guardrails are well-benchmarked…