steel apple

新基准测试 LLM 在模拟家庭危险中的反应式安全性

研究人员推出了 ReactHuman，这是一个旨在评估具身人工智能系统中多模态大语言模型（MLLMs）反应式决策能力的新基准测试。该基准测试侧重于人形代理在模拟家庭环境中响应突发物理危险的能力，评估反应的合理性、安全性和物理基础。对七个 MLLMs 的评估显示出明显的不足，模型大约三分之一的危险处理不当，并表现出信任外观而非运动的倾向，这表明反应式安全仍然是部署这些代理的关键挑战。