Attack Success Rate
PulseAugur coverage of Attack Success Rate — every cluster mentioning Attack Success Rate across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的评估游戏改进了大型语言模型越狱攻击的评估
研究人员开发了一种名为语义重建游戏的新评估方法，用于评估越狱攻击对大型语言模型（LLMs）的有效性。该方法旨在改进现有的攻击成功率（ASR）指标，这些指标可能不可靠，并且根据所使用的判决LLM的不同而差异很大。语义重建游戏通过让LLM根据响应的实质内容重建原始请求，然后将此重建与诱饵请求进行比较来确定合规性。这种方法优先避免误报，并且在针对人类标签进行测试时，与其它方法相比显示出较低的平均误差率。
-
LLM 红队测试：AI 安全测试的新领域
LLM 红队测试是一种专门的安全测试实践，旨在识别 AI 驱动系统中的漏洞，这与传统的 Web 应用程序安全测试有显著不同。该方法侧重于对抗性输入，以发现诸如提示注入、越狱和数据泄露等问题，并认识到 LLM 的概率性本质。测试的关键领域包括对齐层、指令遵循、推理边界和上下文表示，并使用攻击成功率 (ASR) 等指标来量化可利用性。OWASP GenAI LLM Top 10 和 MITRE ATLAS 等框架提供了用于组织这些攻击向量的分类法。
-
新的TLO方法揭示了LLM安全故障路径，超越了成功率
研究人员推出了一种新的评估大型语言模型（LLM）安全故障的方法——时间对数可观测性（TLO）。与仅指示是否发生故障的传统攻击成功率（ASR）不同，TLO分析模型在生成过程中的内部对数边际，以揭示故障是如何发生的。该技术可以区分具有相似ASR但根本原因不同的攻击，从而更细致地理解LLM的漏洞。TLO已在多种LLM和攻击类型中证明了其有效性，并且从中衍生出的简单早期停止规则可以在不影响良性查询的情况下显著减少成功的越狱攻击。