两篇新研究论文探讨了大语言模型（LLM）的安全漏洞。第一篇论文介绍了 AuditBench，这是一个旨在测试 LLM 分析安全审计日志以进行事件响应能力的基准数据集，揭示了基于模型大小和提示设计的性能差异。第二篇论文提出了一个自动化框架，用于评估和加固 LLM 系统指令以抵御编码攻击，证明即使在拒绝直接提取请求的情况下，LLM 也可以通过结构化输出格式泄露敏感信息。 AI
影响 这些论文强调了 LLM 应用中的关键安全风险，特别是关于敏感数据泄露以及对强大评估框架的需求。
排序理由 两篇发表在 arXiv 上的学术论文，详细介绍了 LLM 安全的新基准和评估框架。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.10281v1 Announce Type: cross Abstract: This paper presents AuditBench, a new benchmark dataset for evaluating the capabilities of LLMs at investigating security-related system audit logs. We design and use this benchmark to explore the performance of LLMs on four log-i…
arXiv:2604.01039v2 Announce Type: replace-cross Abstract: System Instructions in Large Language Models (LLMs) are commonly used to enforce safety policies, define agent behavior, and protect sensitive operational context in agentic AI applications. These instructions may contain …