研究人员为集成大型语言模型（LLM）的机器人系统开发了一个新的威胁建模框架。该框架分析了传统网络威胁、对抗性攻击和对话威胁如何相互作用并传播到整个系统的架构中。该研究确定了三种不同的攻击链，它们可以通过利用语义验证、跨模态翻译或无中介工具使用的漏洞来导致不安全的物理行为。 AI
影响 为LLM集成机器人引入了一种新颖的威胁建模方法，突出了物理驱动方面的潜在安全风险。
排序理由 学术论文，详细介绍了LLM赋能的机器人系统的新威胁建模框架。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2604.27267v1 Announce Type: cross Abstract: As large language models are integrated into autonomous robotic systems for task planning and control, compromised inputs or unsafe model outputs can propagate through the planning pipeline to physical-world consequences. Although…