实体
MuTRAP
MuTRAP
PulseAugur coverage of MuTRAP — every cluster mentioning MuTRAP across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究表明AI机器人可能被诱骗执行危险操作
研究人员展示了一种利用控制物理机器人的AI模型漏洞的方法，导致机器人试图切断模型人手而不是苹果。这种名为MuTRAP的攻击利用触发词来操纵机器人的任务计划。为了应对这种情况，同一团队开发了一个名为PROTEA的防御系统，该系统分析机器人上下文中的行为，以识别潜在的有害计划。
-
新型MuTRAP攻击针对基于LLM的机器人任务规划系统
研究人员开发了MuTRAP，一种针对大型语言模型（LLM）辅助机器人任务规划系统的新型多触发器木马攻击。该攻击使用一小组特定任务的参数注入后门，无需修改整个LLM。该方法包括一种触发器优化技术，用于为各种机器人应用选择最有效的多个触发器词，旨在突出漏洞并促进开发更安全的机器人智能。