实体
AgentLeak
AgentLeak
PulseAugur coverage of AgentLeak — every cluster mentioning AgentLeak across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新型泄露扫描器揭示LLM推理漏洞，凸显重大安全风险
一位开发者创建了一个泄露扫描器，用于识别大型语言模型中的漏洞，特别关注数据通过模型推理过程泄露而非仅仅通过输出泄露的问题。该扫描器在已知秘密家族上达到了完美的准确率，但在语义理解或运行时检测方面遇到了困难。这项研究凸显了重大的风险，包括一个Gemini密钥泄露导致一家初创公司损失超过82,000美元，以及潜在的GDPR罚款，许多组织低估了它们在代理事件中的暴露程度。
-
新基准揭示多智能体LLM系统存在重大隐私风险
一项名为AgentLeak的新基准测试已被开发出来，用于评估多智能体大型语言模型（LLM）系统中的隐私风险。与仅检查最终输出的先前基准测试不同，AgentLeak分析了智能体之间的内部通信通道，例如智能体间消息和共享内存。使用此基准测试对七个隐私相关路径和1000个场景进行的评估显示，虽然多智能体配置可以减少最终输出中的泄露，但它们引入了显著的内部通道泄露，其中智能体间消息是一个主要关注点。该研究强调，仅关注输出的标准防御措施不足以保…