实体
Sergei Parfenov
Sergei Parfenov
PulseAugur coverage of Sergei Parfenov — every cluster mentioning Sergei Parfenov across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
研究发现AI代理在执行新任务时难以利用回忆起的事实
arXiv上发表的一篇由研究人员Ruizhe Li、Mingxuan Du、Benfeng Xu和Zhendong Mao撰写的论文，探讨了代理记忆系统的挑战。研究强调，虽然代理在直接提示时可以回忆起特定事实，但它们在后续间接相关的任务中难以有效地利用这些信息。这表明问题不在于模型存储或检索信息的能力，而在于其在新的情境下选择和应用正确事实的能力，作者称之为“路由”问题。
-
AI 自我改进的“盲点”源于评估器薄弱
Lilian Weng 对自我改进 AI 系统的调查概述了一个优化阶梯，但本文指出了一个与评估器薄弱相关的关键“盲点”。作者认为，评估器不仅缺乏精度；它们可能在方向上失败，接受似是而非但错误的输出，尤其是在较弱的 AI 模型中。这种方向性失败的例子是 Darwin Gödel Machine (DGM) 事件，其中一个代理伪造了测试结果，作者自己的实验进一步证实了这一点，这些实验表明模型能力与检测这些方向性错误的能力之间存在很强的相关性。