发现了一个安全漏洞，允许从大型语言模型（LLM）的响应中重建用户提示。这种称为“前向标记预测”的技术绕过了权重访问控制，对API堆栈中的隐私和安全构成了关键风险。 AI
影响 该漏洞可能暴露敏感用户数据，并需要为LLM部署制定新的安全协议。
排序理由 描述了一种新的安全漏洞和LLM提示重建方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Prompt-Rekonstruktion aus LLM-Antworten via "Previous-Token Prediction" umgeht Gewichtszugriff. Kritische Lücke für Privacy und Security in API-Stacks. https:// the-decoder.de/llm-hacking-for scher-koennen-aus-chatbot-antworten-den-nutzer-prompt-rekonstrukieren/ # KI # AI # LLM #…