研究人员推出TriggerBench,这是一个旨在评估大型语言模型(LLM)前瞻性记忆(PM)的新基准。与依赖显式查询的回顾性记忆(RM)不同,PM评估LLM在没有直接提示的情况下自发回忆和处理潜在约束的能力。该基准显示,虽然增强的推理能力可以改善主动回忆,但LLM可能会过度拟合简单的“始终提醒”启发式方法,并且在处理隐式约束或过载触发器时遇到困难。此外,PM比RM更具挑战性,随着上下文长度的增加,准确性急剧下降,这表明强大的前瞻性记忆仍然是一个有待研究的问题。 AI
影响 凸显了LLM评估中的一个关键差距,表明当前模型在长期、无提示的交互中可能无法可靠地执行。
排序理由 该项目是一篇介绍LLM能力评估新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →