研究人员推出了BEAKER,这是一个旨在评估多模态大语言模型(MLLMs)在自动驾驶化学实验室中的具身能力的新基准测试。该基准测试包含1000个专家策划的跨11种任务类型的问答样本,侧重于可供性基础、轨迹规划和安全识别等方面。对28个MLLMs的初步评估显示,尽管当前模型能够遵循一般程序,但在精确动作基础、细粒度设备识别和复杂实验步骤排序方面存在困难,突显了程序理解与实际实验室执行之间的差距。 AI
影响 该基准测试有望加速能够精确执行科学和工业领域现实世界任务的AI系统的开发。
排序理由 该集群描述了一个用于评估特定领域AI模型的新学术基准测试。
- Artificial Intelligence
- arXiv
- BEAKER
- Chemistry
- Hugging Face
- MLLMs
- Multimodal Large Language Models
- Self-Driving Chemical Laboratories
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →