本文调查了利用世界模型的具身AI系统的安全状况。文章详细介绍了这些预测核心在实现高级规划的同时，也引入了新的漏洞。研究追溯了从数据构建到长期适应的世界模型整个生命周期中的威胁，并将诸如投毒、后门和提示注入等攻击归类于世界状态和学习到的动力学。文章还讨论了世界模型作为潜在安全护盾和预测性安全幻觉来源的双重作用，并提出了防御和评估协议。 AI
影响 强调了具身AI系统中潜在的安全漏洞，并为AI开发者提出了新的防御策略。
排序理由 这是一篇调查性论文，详细介绍了特定AI架构的威胁和防御。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- adversarial example
- Backdoors
- Embodied Ai
- Hugging Face
- prompt injection
- sensor spoofing
- trajectory manipulation
- World Models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
