实体
Trojan Hippo
Trojan Hippo
PulseAugur coverage of Trojan Hippo — every cluster mentioning Trojan Hippo across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
PerMIT 架构通过完整性定理保护 LLM Agent 内存
研究人员开发了 PerMIT，这是一种新颖的内存架构，旨在增强大型语言模型 (LLM) Agent 持久化内存的安全性和完整性。该系统采用机器校验的完整性定理和可扩展的社区信任模型来防止注入和投毒攻击。PerMIT 通过有限内存接口来协调对不受信任数据的访问，确保敏感操作仅受已验证信息的影响。在模拟和 Trojan Hippo 和 $ au^2$-bench 等基准测试中，PerMIT 显著减少了攻击成功率，并促进了 Agent 之间…
-
Trojan Hippo 攻击武器化大语言模型代理记忆以进行数据渗漏
研究人员详细介绍了一种名为“Trojan Hippo”的新攻击，该攻击武器化了人工智能代理的记忆系统，以渗漏敏感用户数据。此攻击可以通过一次不受信任的工具调用发起，并潜伏直到被讨论个人信息（如财务或健康）时触发。研究表明，即使在多次正常会话后，该攻击对 OpenAI 和 Google 的当前模型也具有很高的成功率，凸显了重大的安全挑战。