security operations centers
PulseAugur coverage of security operations centers — every cluster mentioning security operations centers across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的神经符号框架增强了AI-SOC对抗提示注入的安全性
已开发出一种新的神经符号框架，以增强人工智能驱动的安全运营中心（SOC）的安全性。该框架通过采用两层防御系统来解决提示注入等漏洞。第一层使用SIEM解码器对日志数据进行确定性过滤，第二层利用NeMo Guardrails在数据到达LLM之前强制执行语义边界。这种方法旨在提供更具弹性和可观察性的防御，以应对复杂的网络威胁。
-
人工智能加速网络威胁，要求转向机器速度安全
人工智能正在从根本上改变网络安全格局，它加速了攻击的速度，将范式从人类速度安全转变为机器速度安全。虽然人工智能可用于发现漏洞或制造复杂的网络钓鱼尝试，但其更深远的影响在于将网络威胁的时间线从几周压缩到仅仅几分钟。这需要重新评估传统的安全运营模式，这些模式是围绕人类决策和响应时间建立的，并强调在面对快速、人工智能驱动的攻击时，韧性而非仅仅合规性的关键重要性。重点正转向最大限度地减少检测、决策、响应和恢复的延迟，以确保业务连续性。
-
(EC)2框架通过LLM智能体增强网络安全告警分析
一个名为(EC)2的新框架已被开发出来，用于改进企业网络中的网络安全告警分析。这个多智能体系统采用事件中心的方法来提供上下文相关的解释，超越了异常检测系统简单的特征级洞察。评估表明，(EC)2提高了事件分类的准确性，并为安全分析师生成了更具可操作性的解释。
-
具备推理能力的LLM通过改进威胁检测来应对SOC警报疲劳
研究人员开发了一种具备推理能力的语言模型，以应对安全运营中心（SOC）的警报疲劳。该模型结合了提示优化、自训练和强化学习，并在Windows端点检测上进行了训练，旨在提高威胁分类的准确性。一项关键创新是训练了一个校准器，用于评估模型推理过程的置信度，这对于可靠的自动化分类至关重要。与直接标签分类器相比，该方法在测试准确率上达到了82.6%，并显著提高了良性和恶意检测的召回率，证明了有针对性的训练比单纯的模型规模更有价值。
-
DeepFaith框架改进了APT防御中LLM的事件报告
研究人员开发了DeepFaith，一个旨在提高大型语言模型（LLMs）在高级持续性威胁（APTs）背景下生成的事件报告忠实度的创新框架。该系统将LLM生成的报告与来自防御系统的具体证据联系起来，确保陈述得到支持并减少幻觉。实验表明，DeepFaith显著提高了报告的忠实度，减少了无根据的声明，并增加了安全运营中心的报告的时间一致性。
-
LLM安全助手易受日志数据提示注入攻击
研究人员发现了一种用于安全运营中心的大型语言模型的新漏洞，称为“日志基底提示注入”。这种攻击向量利用了攻击者可以控制日志数据中的许多字段这一事实，从而允许他们将恶意指令注入LLM。该研究将这些攻击分为四种类型，并发现身份劫持特别有效，而摘要任务最容易受到攻击。