研究人员推出ReactHuman,一个旨在测试多模态大语言模型(MLLM)在模拟人形机器人中反应式决策能力的新基准。该基准侧重于对突发物理危险的即时、安全关键性反应,这是机器人部署于家庭环境中的关键方面。使用ReactHuman进行的评估显示,当前的MLLM在反应安全方面存在困难,处理了相当一部分危险,并表现出优先考虑外观而非物理现实的倾向,模型规模的增大并未带来任何改进。 AI
影响 突显了LLM在具身智能体反应安全方面存在的关键差距,表明需要改进训练和评估方法。
排序理由 该集群描述了一篇发表在arXiv上的新基准论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →