proprietary LLM APIs

LLM推理痕迹通过API漏洞泄露

一篇新论文揭示了Anthropic、OpenAI和Google的专有LLM API中存在一个漏洞，允许提取和重放加密的推理痕迹。研究人员证明，这些加密的“思维块”在同一提供商生态系统内的模型和会话之间是可互换的。通过将加密痕迹注入较弱的模型，攻击者可以迫使其暴露较强模型的隐藏推理，从而绕过反蒸馏措施。此技术还可以暴露无意中包含在这些隐藏痕迹中的敏感数据，如API密钥和个人信息，并可能实现隐形提示注入。