Reza Soosahabi

LLM 安全论文揭示日志分析和指令处理中的漏洞

两篇新研究论文探讨了大语言模型（LLM）的安全漏洞。第一篇论文介绍了 AuditBench，这是一个旨在测试 LLM 分析安全审计日志以进行事件响应能力的基准数据集，揭示了基于模型大小和提示设计的性能差异。第二篇论文提出了一个自动化框架，用于评估和加固 LLM 系统指令以抵御编码攻击，证明即使在拒绝直接提取请求的情况下，LLM 也可以通过结构化输出格式泄露敏感信息。