新的“JustAsk”框架揭示了 AI 代码代理中的系统提示漏洞

一篇新研究论文介绍了一个名为“JustAsk”的框架，该框架旨在从大型语言模型中提取系统提示，特别是那些用于自主代码代理的模型。该方法不需要预先存在的提示或标记数据，而是依赖代理的交互能力来发现漏洞。在 41 个商业模型上进行测试后，JustAsk 成功恢复了完整或接近完整的系统提示，凸显了当前代理设计中的重大安全风险。 AI

影响 揭示了自主 AI 代理中的关键安全漏洞，可能影响基于 LLM 的系统的安全性和完整性。

排序理由 该集群包含一篇研究论文，详细介绍了一种从 AI 模型中提取系统提示的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX Code Finder for Papers
• Connected Papers
• DagsHub
• Gotit.pub
• Hugging Face
• JustAsk
• Litmaps
• ScienceCast
• scite Smart Citations
• Xiang Zheng

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →