实体
PersistBench
PersistBench
PulseAugur coverage of PersistBench — every cluster mentioning PersistBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新基准揭示大型语言模型长期记忆的安全风险
一个名为PersistBench的新基准已被开发出来，用于评估与大型语言模型长期记忆集成相关的安全风险。该基准确定了两个关键风险：跨域泄露，即将不相关的存储信息注入对话中；以及记忆诱导的谄媚，即强化偏见。测试显示，在18个前沿和开源大型语言模型中存在显著的失败率，凸显了在对话式AI中需要更强大的记忆管理。
-
新的“错误归因差距”攻击针对人工智能记忆层
一篇题为《错误归因差距》的新研究论文，将“语义规范漂移”（SND）作为一种针对代理式人工智能系统的新型攻击向量。该攻击利用记忆层，使其难以与模型失准区分。SND 涉及将策略文档注入向量存储，丢失出处，并作为可信上下文重新出现，导致代理行为不当。该论文还提出了“反事实组合测试”和“记忆持久信息流控制”作为防御机制，声称在识别攻击来源和阻止相当比例的攻击方面具有高准确率。