新的“RIPA”攻击通过感官数据针对LLM控制的机器人

研究人员开发了RIPA，一种用于测试LLM控制的机器人提示注入攻击的新颖方法。该研究评估了五种不同的LLM，包括DeepSeek-V4-Flash、Llama-3-8B-Instruct-Lite、Llama-3.3-70B-Instruct-Turbo、Qwen 2.5-7B-Instruct-Turbo和Gemma-3n-E4B，涵盖了各种参数规模。研究结果表明，漏洞是模型特定的，而不是依赖于规模，其中Llama-3.3-70B-Instruct-Turbo在所有变体中均显示出100%的攻击成功率。该研究还引入了三种新的感官注入通道：视觉、音频和LiDAR上下文投毒，其中LiDAR通道在DeepSeek-V4-Flash上实现了100%的成功率。 AI

影响 突出了LLM控制的机器人系统中关键的安全漏洞，有必要开发新的防御机制。

排序理由 该集群基于一篇学术论文，详细介绍了针对LLM控制的机器人的新攻击方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• DeepSeek-V4-Flash
• Gemma-3n-E4B
• Llama-3.3-70B-Instruct-Turbo
• Llama-3-8B-Instruct-Lite
• LLM-controlled ROS 2 Robots
• Qwen 2.5-7B-Instruct-Turbo
• RIPA
• ROS 2
• Whisper STT

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →