Databricks 推出了 Omnigent 系统，旨在对抗针对 AI 代理的缓慢注入攻击。这些攻击涉及将恶意操作分解为看似无害的单独步骤，使得传统的无状态防护栏难以检测。Omnigent 采用有状态的上下文策略，跟踪整个会话的活动，从而能够识别并阻止最终的恶意操作（例如，窃取敏感数据），即使之前的每个操作看起来都是合法的。 AI
影响 通过提供针对复杂提示注入攻击的防御来增强 AI 代理的安全性。
排序理由 AI 安全工具的产品公告。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
