MITRE ATLAS
PulseAugur coverage of MITRE ATLAS — every cluster mentioning MITRE ATLAS across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Snowflake 推出 AI 护栏使用情况视图以进行安全监控
Snowflake 发布了一个新视图 CORTEX_AI_GUARDRAILS_USAGE_HISTORY，该视图记录了 Cortex Code、Cortex Agents 和 Snowflake Intelligence 的护栏扫描。此视图允许安全团队监控提示注入攻击和其他可疑活动。一位用户利用此数据构建了一个包含 10 个选项卡的 Streamlit 仪表板，以提供高管风险评分、UEBA、MITRE ATLAS 映射和合规性自动化…
-
开发者提出BRACE框架以保护自主AI代理
一位开发者提出了一个名为BRACE的框架，以解决自主AI代理的安全漏洞，此前发生了一些代理造成重大损害的事件。该框架将潜在的故障分为五个领域：构建时、运行时、代理特定配置、配置漂移以及更广泛的生态系统。BRACE强调，安全应侧重于限制代理配置，而不是仅仅关注AI模型的能力。一项关键建议是在协调器层面默认拒绝破坏性操作，防止代理执行不可逆的命令。
-
Anthropic 的 Mythos 模型带来安全风险，需要新的运营手册
Anthropic 的 Mythos 模型最初在严格限制下进行预览，展示了在发现软件漏洞和绕过安全护栏方面的强大能力。虽然 Anthropic 的 Sonnet-4 模型在针对类似攻击时表现出强大的安全干预能力，但 Mythos 类模型可能被用于进攻性安全目的引发了担忧。这需要将此类模型视为安全关键组件，对机器学习工程师提出谨慎的系统级设计、治理和运营监督要求。
-
新索引将GenAI安全事件映射到OWASP和MITRE框架
一个新的索引目录了公开披露的与生成式AI和代理式AI系统相关的安全事件。每个事件都与已建立的安全框架（如OWASP LLM Top 10、OWASP Agentic Top 10、NIST AI RMF和MITRE ATLAS）进行交叉引用。该资源旨在提供AI特定安全漏洞和威胁的结构化概述。
-
MIRAGE系统使用AI蜜罐来诱捕提示注入攻击
MIRAGE系统不阻止提示注入攻击，而是采用蜜罐方法来欺骗攻击者。当检测到可疑提示时，MIRAGE会向攻击者提供虚假数据并记录其行为，让他们相信自己正在成功。这种方法旨在浪费攻击者的资源并收集有关其技术的情报，而不是提醒他们已被检测到。
-
MLOps 安全基准将 OWASP 和 MITRE ATLAS 映射到 ML 流水线
本文详细介绍了通过将 OWASP LLM Top 10 和 MITRE ATLAS 框架映射到实际的机器学习流水线来创建 MLOps 安全基准的过程。作者概述了将这些安全模型集成到真实 ML 工作流中以识别和缓解潜在漏洞的流程。目标是为保护 ML 系统免受新兴威胁提供结构化方法。