实体
Ståle
Ståle
PulseAugur coverage of Ståle — every cluster mentioning Ståle across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
状态漂移：LLM代理的记忆过时，带来安全风险
状态漂移（State-drift）是一个不同于数据漂移或概念漂移的问题，它描述的是当现实世界的事实发生变化后，代理存储的信念变得过时。这可能导致代理基于过时的信息行事，当事实自然变化时会成为可靠性问题，当被故意操纵时则成为安全漏洞。研究表明，即使是先进的模型也难以识别和纠正这些过时的信念，在接受外部测试时性能会显著下降。
-
新的STALE基准揭示大型语言模型代理难以处理过时的记忆
研究人员推出了STALE，这是一个旨在评估大型语言模型代理识别其存储记忆何时过时能力的基准。该基准包含跨越100多个主题的400个冲突场景，测试状态解析、前提抵抗和隐式策略适应能力。评估显示，即使是表现最好的大型语言模型也难以掌握这项能力，准确率仅为55.2%，表明代理记忆系统存在重大差距。