一位安全研究人员演示了一种方法，通过利用 Anthropic 的 Claude AI 模型的内存和上下文窗口来提取敏感信息。通过精心设计的提示词并利用 Claude 回忆过去交互的倾向，研究人员能够检索到先前提供的个人数据，包括一个虚构的“最深、最黑暗的秘密”。这凸显了大型语言模型在管理和保留用户信息方面存在的潜在漏洞。 AI
影响 凸显了 LLM 数据处理和安全方面的潜在风险，促使开发人员改进内存管理和上下文隔离。
排序理由 演示了现有 AI 模型中的一个漏洞。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
