实体
Attack Success Rate
Attack Success Rate
PulseAugur coverage of Attack Success Rate — every cluster mentioning Attack Success Rate across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
LLM 红队测试：AI 安全测试的新领域
LLM 红队测试是一种专门的安全测试实践，旨在识别 AI 驱动系统中的漏洞，这与传统的 Web 应用程序安全测试有显著不同。该方法侧重于对抗性输入，以发现诸如提示注入、越狱和数据泄露等问题，并认识到 LLM 的概率性本质。测试的关键领域包括对齐层、指令遵循、推理边界和上下文表示，并使用攻击成功率 (ASR) 等指标来量化可利用性。OWASP GenAI LLM Top 10 和 MITRE ATLAS 等框架提供了用于组织这些攻击向量的分类法。
-
新的TLO方法揭示了LLM安全故障路径，超越了成功率
研究人员推出了一种新的评估大型语言模型（LLM）安全故障的方法——时间对数可观测性（TLO）。与仅指示是否发生故障的传统攻击成功率（ASR）不同，TLO分析模型在生成过程中的内部对数边际，以揭示故障是如何发生的。该技术可以区分具有相似ASR但根本原因不同的攻击，从而更细致地理解LLM的漏洞。TLO已在多种LLM和攻击类型中证明了其有效性，并且从中衍生出的简单早期停止规则可以在不影响良性查询的情况下显著减少成功的越狱攻击。