研究人员推出CAPSafe,一个旨在评估由大型语言模型驱动的具身智能体的安全推理能力的新基准。该基准在行动和长时序规划层面评估安全性,并考虑情境危险及其严重性。虽然一些模型在识别不安全个体行动方面表现出高准确率,但在扩展行动序列上的鲁棒安全推理仍然是一个重大挑战。Gemini-3-Pro在安全长时序规划方面表现最佳,成功率为78.19%,但其他模型则明显落后。 AI
影响 强调了改进LLM驱动的具身智能体在长时序规划和安全推理方面的必要性。
排序理由 该集群包含一篇介绍AI安全评估基准的新学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →