English(EN) "Encrypted" Reasoning Traces Were Never a Security Boundary — This Paper Just Proved It (Again)

AI推理痕迹可被重放，揭示模型隐藏的思考过程

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-12 00:25

一篇新论文揭示，Anthropic、OpenAI和Google提供的AI模型加密推理痕迹可以在不同模型和会话之间重放。此漏洞允许较弱的模型以明文形式揭示更强大模型的隐藏思考链，绕过直接越狱。该研究强调了这些痕迹处理方式中的安全漏洞，影响数据隐私和AI代理的功能。 AI

影响这项研究突显了当前LLM架构中潜在的安全和隐私风险，可能影响代理开发和企业采用。

排序理由研究论文，详细介绍了LLM推理痕迹处理方面的一种新型漏洞。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · 武乐丹 · 2026-08-12 00:25

“加密”推理痕迹从未是安全边界——这篇论文（再次）证明了这一点

<p><strong>Subtitle:</strong> A new paper shows encrypted chain-of-thought blocks from Anthropic, OpenAI, and Google can be replayed across models and sessions to recover hidden reasoning in plaintext. The HN thread (470 points, 200+ comments) turned it into a debate about agents…