实体
AdaGuard
AdaGuard
PulseAugur coverage of AdaGuard — every cluster mentioning AdaGuard across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
时间线
- 2026-10-23 research_milestone Researchers introduced AdaGuard, an adaptive guard model for language agents, along with the AdaptiveSafety dataset and SafePO algorithm. 来源
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的AdaGuard模型可适应用户定义的策略，以实现更安全的AI代理
研究人员开发了AdaGuard，这是一种新颖的自适应守护模型，旨在通过允许用户定义策略来增强语言模型代理的安全性。与固定的守护模型不同，AdaGuard可以解释和执行因不同应用程序和任务而异的策略。为了促进这一点，创建了一个名为AdaptiveSafety的新数据集，其中包含近12,000个用于训练和测试的示例。该团队还引入了SafePO，这是一种强化学习算法，通过平衡解释性推理和最终判决来完善违规识别，从而使AdaGuard模型在安…
-
新的 AI 护栏应对不断演变的提示注入威胁
研究人员正在开发新的方法来保护 AI 智能体免受复杂的提示注入攻击，这些攻击将恶意指令嵌入到智能体处理的内容中。一种名为 VEPA 的方法使用一个随着部署反馈而演变的正式策略框架，以确保确定性和可验证的护栏决策。另一种技术 BRANCH 采用分支树搜索，以更少的查询绕过多扫描仪护栏系统。此外，AdaGuard 利用 LLM-as-a-Judge 框架进行自适应推理，以增强安全性和策略合规性，而 multi-CaMeL 通过在智能体边界…