研究人员开发了一种约束动作 AI 修复架构，旨在通过减轻使用大型语言模型 (LLM) 进行事件响应的风险来增强安全运营中心 (SOC)。该系统采用双层方法：控制平面将修复 grounding 在主机事件上，并将 LLM 输出限制在预定义的模板化命令词汇表中；NeMo-Guardrails 代理则针对对抗性语料库强制执行输入和输出策略。该架构将注入召回率从 25.0% 显著提高到 94.5%，同时保持较低的误报率，从而在可能对关键基础设施造成危害的命令执行之前有效遏制 LLM 的故障模式。 AI
影响 该架构通过确保 AI 驱动的修复操作安全可控，可以显著降低关键基础设施中 LLM 引起的网络安全漏洞风险。
排序理由 该集群描述了一篇详细介绍用于安全运营的新型 AI 架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
