Nishith Sinha

Databricks Omnigent 使用上下文策略阻止缓慢的 AI 代理攻击

Databricks 推出了 Omnigent 系统，旨在对抗针对 AI 代理的缓慢注入攻击。这些攻击涉及将恶意操作分解为看似无害的单独步骤，使得传统的无状态防护栏难以检测。Omnigent 采用有状态的上下文策略，跟踪整个会话的活动，从而能够识别并阻止最终的恶意操作（例如，窃取敏感数据），即使之前的每个操作看起来都是合法的。