实体
agentx-security-sdk
agentx-security-sdk
PulseAugur coverage of agentx-security-sdk — every cluster mentioning agentx-security-sdk across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
AI 代理故障已编目并收录于新公共数据库
一个新的公共数据库 ARE Incident Database 已上线，用于编目现实世界中 AI 代理的故障。该数据库详细记录了 32 起事件，并将其归类到 OWASP Agentic Security Initiative Top 10 类别中。创建者自己的安全产品 agentx-security-sdk 可以阻止其中 23 起事件，并对另外两起提供部分覆盖，剩下四类则无法解决。每起事件都包含可复现的代码片段，允许用户自行验证其说法。
-
美国国家安全局发布AI代理安全模型，强调恢复差距
美国国家安全局的AI安全中心发布了模型上下文协议（MCP）的威胁模型，强调了对AI代理进行运行时安全检查的关键需求。该文件强调将工具执行视为高风险操作，并详细说明了必要的输出过滤，以防止提示注入和其他攻击。然而，美国国家安全局的模型仅侧重于预防，并未解决AI代理如何从被阻止的操作中恢复的问题，留下了自主运行的这一关键方面未解决。
-
AI代理安全工具在执行前阻止破坏性命令
一位开发者创建了一个开源Python包agentx-security-sdk，作为AI代理的传出防火墙。该工具旨在通过对工具调用实施确定性检查，来阻止自主代理执行破坏性命令，例如删除数据库表或修改生产数据。开发者正在寻求真实世界AI代理用户的反馈，以识别潜在漏洞并改进安全措施。