研究人员发现大型语言模型存在一个漏洞，可以解密逐步推理（或称思维链）轨迹。该漏洞影响Anthropic、OpenAI和Google等提供商，源于在生态系统内的不同会话和模型之间，加密推理块的可互换性。该漏洞可用于提取专有模型推理，导致知识产权被盗，并可能大规模提取私人数据，从公共存储库中恢复个人身份信息和凭证即是例证。 AI
影响 该漏洞可能导致知识产权被盗和大规模数据泄露，迫使LLM提供商重新评估其安全措施。
排序理由 研究论文详细介绍了LLM思维链加密中的一个漏洞。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
"Automatic licence plate recognition cameras are in the spotlight as citizens across North America question their use by municipalities and law enforcement agencies — with some critics calling them a tool for ‘mass surveillance.’ One company in particular, Flock Safety, has found…
"Leading large language model providers now conceal their models’ step-by-step reasoning, or chain-of-thought, to protect intellectual property and limit information leakage. Rather than storing these traces server-side, providers return them to the client as blocks of encrypted …