PulseAugur
中
实时 23:49:55
实体 Agent Guardrails

Agent Guardrails

PulseAugur coverage of Agent Guardrails — every cluster mentioning Agent Guardrails across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_289290 ·

    新的“选项-通道攻击”破坏了 AI 代理护栏

    一篇新研究论文详细介绍了一种名为“选项-通道攻击”的漏洞,该漏洞可以绕过 AI 代理中使用的类型化决策模型的护栏。这些旨在批准或拒绝操作的模型被发现极易受到操纵,在识别禁止操作方面的准确率低至 36%。该攻击利用选项的命名和定义,即使是看似无害的文本,也能以近乎 100% 的成功率欺骗模型允许恶意操作。研究人员认为,与当前的类型化决策模型相比,确定性基于规则的系统在执行策略方面更可靠。

  2. TOOL · CL_134559 ·

    Workato推出AI代理工具;Haleon与Microsoft达成AI部署合作

    Workato推出了新的Headless API和Agent Guardrails功能,旨在将受管制的AI代理集成到现有业务应用程序中。此举旨在通过提供强大的控制和安全机制来增强AI代理的功能。与此同时,Haleon已与Microsoft达成一项为期五年的协议,以在其全球业务中部署agentic AI,这标志着消费保健行业在AI驱动流程方面的显著采用。