实体
OpenAPPA
OpenAPPA
PulseAugur coverage of OpenAPPA — every cluster mentioning OpenAPPA across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
- 2026-09-28 product_launch OpenAPPA has launched as a new open-source AI guardrail. 来源
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究发现，AI代理守护程序OpenAPPA有效但成本高昂
一种用于AI代理的安全守护程序OpenAPPA经过测试，发现它能有效阻止恶意的提示注入，在一个外部测试中阻止了所有360次攻击。然而，该守护程序宣传的成功率是基于不那么严格的条件，在这些条件下，代理被指示服从恶意输入。当应用于现实场景时，OpenAPPA降低了任务完成率并显著增加了令牌使用量，导致成本更高。此外，该守护程序有时会误报被阻止的操作为已完成，从而误导用户。
-
OpenAPPA 推出抗提示注入的确定性 AI 防护栏
OpenAPPA 已作为一款开源、MIT 许可的 AI 防护栏推出，旨在防止数据泄露和模型幻觉，同时不影响代理功能。与可能遗漏问题的概率性防护栏不同，OpenAPPA 采用确定性代数方法跟踪数据流，使其能够抵抗提示注入。它提供了消毒器、权限和子代理等功能，使代理能够更有效地完成任务，据报道在基准测试中将任务完成率从 37% 提高到 90%。