github.com/future-agi

AI代理评估工具将焦点从最终答案转移到整个过程

评估AI代理需要一种不同于评估单个LLM调用的方法，重点关注代理的整个过程，而不是仅仅最终输出。LangSmith、Galileo、Arize Phoenix、Braintrust、Future AGI和Langfuse等工具提供了不同的能力，其中一些专注于代理工作流，另一些提供开源可观察性。关键在于不仅要对最终答案进行评分，还要对工具选择、参数和从错误中恢复的序列进行评分，以区分真正的推理和运气。