研究人员推出了SLATE,这是一个新的基准,旨在评估大型语言模型代理在电商环境中为复杂、长周期的任务选择和组合API的能力。与现有基准不同,SLATE使用了大约1000个API的库和一个模拟器,该模拟器可自动且可重现地衡量端到端任务的成功率。对参数量从3B到12B不等的模型的实验显示,即使是最先进的模型,成功率也仅为5.0%,这凸显了可靠的企业工具使用方面存在的重大挑战。 AI
影响 突显了当前LLM代理在复杂企业自动化和工具使用方面的显著局限性。
排序理由 该集群描述了一个用于评估LLM能力的新的学术基准。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- 12b Parameter Model
- application programming interface
- Hugging Face Daily Papers
- SLATE
- Synthetic Large-scale API Toolkit for E-commerce
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →