实体
AI hacking agents
AI hacking agents
PulseAugur coverage of AI hacking agents — every cluster mentioning AI hacking agents across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
提示注入被用于防御性地禁用人工智能黑客代理
安全研究人员开发了一种新颖的防御策略，通过采用提示注入技术来对抗人工智能黑客代理。这种被称为“上下文炸弹”的方法，涉及将恶意命令嵌入云系统秘密中。当攻击性人工智能代理试图访问这些秘密时，嵌入的命令会欺骗它违反自身的安全协议并关闭。
-
新框架 Honeyval 评估 LLM 驱动的蜜罐对抗 AI 攻击者
研究人员推出 Honeyval，这是一个新的评估框架，旨在评估大型语言模型 (LLM) 作为 HTTP 蜜罐的有效性。该框架通过引入 AI 黑客代理作为攻击者，并将蜜罐置于 16 个后端应用程序中，解决了先前评估方法的局限性。使用 Honeyval 进行的实验表明，与传统的基于规则的系统相比，LLM 驱动的蜜罐可以更长时间地吸引攻击者，并且即使面对先进的 AI 模型也不太可能被检测到，同时还保持成本优势。