English(EN) Easier Said Than Done: Unpacking Intent-Behavior Gap in Jailbreaking LLM-Based Robots

大型语言模型机器人越狱尝试中展现出意图-行为差距

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-02 04:00

研究人员发现，在大型语言模型（LLM）驱动的机器人中，意图中的恶意行为与其实际产生的有害行为之间存在显著差距，这被称为意图-行为差距。这种差异的出现是因为当前的越狱方法忽略了机器人特有的约束，例如可执行的控制API和物理可行性。为了解决这个问题，开发了一个名为POEF的新框架，通过考虑这些机器人特有的限制来优化越狱提示，在各种LLM和机器人平台上实现了80%的行为越狱成功率。研究结果强调，在LLM驱动的机器人广泛部署之前，迫切需要采取强有力的对策。 AI

影响凸显了LLM驱动的机器人技术中关键的安全漏洞，在广泛采用之前需要加强防御。

排序理由研究论文，详细介绍了越狱LLM驱动的机器人的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 13 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文，详细介绍了越狱LLM驱动的机器人的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, paper, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Xuancun Lu, Zhengxian Huang, Xinfeng Li, Chi Zhang, Xiaoyu Ji, Wenyuan Xu · 2026-10-02 04:00

说起来容易做起来难：剖析大型语言模型机器人越狱中的意图-行为差距

arXiv:2412.16633v5 Announce Type: replace-cross Abstract: LLM-based robots use Large Language Models (LLMs) as planners to translate natural language instructions into policies such as grasp(), move_to(), and open_gripper(). Jailbreak attacks on these robots extend the threat fro…

本文如何被排名

报道来源 [1]

说起来容易做起来难：剖析大型语言模型机器人越狱中的意图-行为差距

相关实体

相关话题