实体
AgentShield
AgentShield
PulseAugur coverage of AgentShield — every cluster mentioning AgentShield across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Gemini 安全漏洞暴露用户长达三个月
一位安全研究员指出，Google 的 Gemini 存在一个长达三个月的重大漏洞窗口期，在此期间，攻击者可能利用该漏洞劫持语音助手并在用户设备上执行恶意操作。核心问题在于，大型语言模型（LLM）同时充当了输入处理和安全检查的“万能盒子”，使其容易受到间接提示注入的攻击。作者提出增加一个独立的验证层，例如他们的 AgentShield 产品，置于代理和不可信输入之间，从而提供供应商独立性和更主动的安全方法。
-
AI 代理易受恶意描述的“工具投毒”攻击
VentureBeat 最近的一篇文章强调了 AI 代理的一个关键安全漏洞，称为“工具投毒”，其中恶意指令嵌入在工具的描述中，而不是用户输入中。这使得攻击者可以通过操纵 LLM 对工具元数据的解释来破坏代理行为。原文章正确地指出，现有的安全扫描器缺乏检测这种威胁的能力，因为它们专注于代码完整性和依赖项，而不是自然语言描述。提出的解决方案涉及一个验证代理，该代理对工具描述进行分类并验证每次工具调用，以防止此类攻击。
-
AgentShield 推出支出防火墙以控制 AI 代理的财务支出
AgentShield 推出了一个新的支出防火墙系统，旨在管理 AI 代理的财务支出。该工具旨在监控和控制自主 AI 系统发起的交易，解决了使用此类技术的组织的成本担忧。该系统为可以访问付费服务或发起财务操作的 AI 代理提供了关键的监督层。