LongSearchEval

新框架LongSearchEval评估LLM网络搜索能力

研究人员推出LongSearchEval，一个旨在评估大型语言模型（LLM）长视距网络搜索能力的新框架。该框架利用轨迹感知代理协议来收集和分析真实的交互轨迹，与现有方法相比，能够进行更准确的行为评估和细粒度的错误定位。LongSearchEval被用于在100个任务上评估八个家族的16个模型，产生了1,600个保留运行和超过6,500个自动标记的故障节点，人类验证证实了标签和特征对应性的一致性很高。