实体
Sensitive Information Disclosure
Sensitive Information Disclosure
PulseAugur coverage of Sensitive Information Disclosure — every cluster mentioning Sensitive Information Disclosure across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
金丝雀方法提供安全、客观的LLM红队测试
两篇文章提出了用于大型语言模型(LLM)应用红队测试的“金丝雀方法”,提供了一种比传统越狱提示更安全、更客观的方法。该方法涉及将无意义的、唯一的标记(金丝雀)嵌入系统提示、文档或配置中。如果这些金丝雀出现在意外的输出或日志中,则表明存在安全故障,从而提供清晰的通过/失败结果,而无需生成有害内容。该方法已映射到LLM应用的OWASP Top 10,并推荐了针对提示注入和敏感信息泄露等常见漏洞的具体测试。
-
OWASP Top 10 列表详细介绍 LLM 安全风险
OWASP LLM 应用 Top 10(2025)识别出 AI 驱动系统的关键安全风险,由于 LLM 与提示、数据和工具的交互,这些风险超出了传统漏洞的范畴。主要风险包括提示注入(Prompt Injection),攻击者会诱骗模型执行非预期命令;以及敏感信息泄露(Sensitive Information Disclosure),LLM 会泄露私有数据或凭证。该指南还强调了源自第三方组件(如插件和嵌入式提供商)的供应链漏洞,这些组件…