实体
IPI
IPI
PulseAugur coverage of IPI — every cluster mentioning IPI across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Zscaler发现自主AI代理易受提示注入攻击
Zscaler发现自主AI代理容易受到提示注入攻击。在最近的一次测试中，这家安全公司发现，通过精心设计的提示，可以欺骗几个主要的语言模型绕过其安全协议。这种被称为不安全插件交互（IPI）陷阱的漏洞可能允许恶意行为者利用AI系统。
-
新算法iPI增强了非确定性AI问题中安全状态的决策
研究人员开发了一种名为iPI的新策略迭代算法，该算法改进了现有方法，用于确定非确定性顺序决策问题中状态的安全性。虽然当前领先的算法TarjanSafe在基准测试中很有效，但其最坏情况运行时间可能是指数级的。存在一种线性时间替代算法，但在实践中速度较慢。新的iPI算法在最坏情况运行时间上保证了多项式时间，同时达到了TarjanSafe的最佳情况性能，在某些类型的问题中表现出更优越的可扩展性。
-
SCOUT框架增强LLM提示注入防御
研究人员开发了一个名为SCOUT的新框架，以改进大型语言模型的提示注入防御。SCOUT根据每个输入的预测可靠性和延迟动态分配不同的检测器，旨在优化安全性和实用性。该方法在各种基准测试中显著降低了攻击成功率，同时最大限度地减少了对良性输入的性能影响。