实体
data exfiltration
data exfiltration
PulseAugur coverage of data exfiltration — every cluster mentioning data exfiltration across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI代理安全实验室测试提示注入和数据渗漏防御
本文详细介绍了一个可复现的红队实验,专注于AI代理的安全漏洞,特别是间接提示注入和数据渗漏。作者演示了攻击者如何将恶意指令嵌入AI代理处理的数据中,从而导致未经授权的操作或数据泄露。该实验使用Ollama和llama3.2模型进行本地设置,测试了各种防御措施,区分了尝试性攻击和已执行攻击,并强调了系统级控制相对于模型级控制的有效性。
-
AI 代理技能漏洞率达 26%,Lintai 工具提供解决方案
一项分析了 31,132 个 AI 代理技能的最新论文显示,其中超过四分之一的技能存在漏洞,例如提示注入或数据泄露。这一发现促使了一种新的做法,即在执行前手动审查代理配置文件。`lintai` 工具被提出作为一种本地、快速且确定性的解决方案,用于扫描这些文件中的潜在风险,并提供命令行和 CI 集成。