PulseAugur
中
实时 20:35:49
实体 Sensitive Information Disclosure

Sensitive Information Disclosure

PulseAugur coverage of Sensitive Information Disclosure — every cluster mentioning Sensitive Information Disclosure across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_278001 ·

    金丝雀方法提供安全、客观的LLM红队测试

    两篇文章提出了用于大型语言模型(LLM)应用红队测试的“金丝雀方法”,提供了一种比传统越狱提示更安全、更客观的方法。该方法涉及将无意义的、唯一的标记(金丝雀)嵌入系统提示、文档或配置中。如果这些金丝雀出现在意外的输出或日志中,则表明存在安全故障,从而提供清晰的通过/失败结果,而无需生成有害内容。该方法已映射到LLM应用的OWASP Top 10,并推荐了针对提示注入和敏感信息泄露等常见漏洞的具体测试。

  2. TOOL · CL_26254 ·

    OWASP Top 10 列表详细介绍 LLM 安全风险

    OWASP LLM 应用 Top 10(2025)识别出 AI 驱动系统的关键安全风险,由于 LLM 与提示、数据和工具的交互,这些风险超出了传统漏洞的范畴。主要风险包括提示注入(Prompt Injection),攻击者会诱骗模型执行非预期命令;以及敏感信息泄露(Sensitive Information Disclosure),LLM 会泄露私有数据或凭证。该指南还强调了源自第三方组件(如插件和嵌入式提供商)的供应链漏洞,这些组件…