实体
Nishith Sinha
Nishith Sinha
PulseAugur coverage of Nishith Sinha — every cluster mentioning Nishith Sinha across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Databricks Omnigent 为 AI 代理添加基于意图的授权
Databricks 推出了名为 Omnigent 的新授权系统，旨在增强 AI 代理的安全性。该系统解决了两个关键漏洞：提示注入和传统基于身份的授权的目的盲目性。Omnigent 的基于意图的授权可确保代理的操作与其声明的会话目的保持一致，即使代理拥有必要的权限也能防止未经授权的操作。该系统允许代理根据描述起草意图，但需要人工批准，并阻止或限制任何超出已定义意图范围的操作。
-
Databricks Omnigent 使用上下文策略阻止缓慢的 AI 代理攻击
Databricks 推出了 Omnigent 系统，旨在对抗针对 AI 代理的缓慢注入攻击。这些攻击涉及将恶意操作分解为看似无害的单独步骤，使得传统的无状态防护栏难以检测。Omnigent 采用有状态的上下文策略，跟踪整个会话的活动，从而能够识别并阻止最终的恶意操作（例如，窃取敏感数据），即使之前的每个操作看起来都是合法的。