一个名为 DESPITE 的新基准已被开发出来，用于系统性地评估将大型语言模型用于机器人具身规划相关的安全风险。研究表明，即使是规划准确率很高的模型也可能表现出重大的安全故障，安全意识并未随着模型规模的增大而按比例扩展。研究结果强调，提高安全意识是部署基于 LLM 的规划器到现实世界机器人系统中的一个关键挑战。 AI
影响 强调了基于 LLM 的机器人规划器面临的关键安全挑战，并指出需要提高危险规避能力，而非仅仅提高规划能力。
排序理由 该集群包含两篇 arXiv 论文，讨论了人工智能中的安全风险，特别是关于具身规划中的 LLM 以及对具身 AI 安全的更广泛调查。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2604.18463v2 Announce Type: replace-cross Abstract: Large language models are increasingly used as planners for robotic systems, yet how safely they plan remains an open question. To evaluate safe planning systematically, we introduce DESPITE, a benchmark of 12,279 tasks sp…
arXiv:2605.02900v1 Announce Type: cross Abstract: Embodied Artificial Intelligence (Embodied AI) integrates perception, cognition, planning, and interaction into agents that operate in open-world, safety-critical environments. As these systems gain autonomy and enter domains such…