研究人员开发了一种新颖的神经代理控制框架,该框架结合了大型语言模型(LLM)规划器(如Gemini 2.5 Flash-Lite)和时间序列基础模型(TimesFM),以增强工业物联网环境中的安全性。该框架通过引入“反事实物理注入”机制,解决了LLM在闭环控制中的安全问题。该机制在基础模型的潜在空间中模拟拟议的干预措施,以在执行不安全或幻觉动作之前拒绝它们。在安全水处理(SWaT)数据集上的评估表明,其性能优于传统的LSTM和TCN基线,能够有效阻止攻击且无效动作数量为零。 AI
影响 该框架通过减轻LLM的幻觉,可以显著提高控制关键基础设施的AI系统的安全性和可靠性。
排序理由 该集群包含一篇详细介绍新AI框架的研究论文。
- Gemini 2.5 Flash Lite
- long short-term memory
- Neuro-Agentic Control
- Secure Water Treatment (SWaT)
- TCN
- TimesFM
- Counterfactual Physics Injection
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →