deep_think tool

研究人员利用 API 漏洞提取隐藏的 AI 模型推理过程

研究人员发现了一种方法，通过利用其 API 中的漏洞，从前沿 AI 模型中提取隐藏的思维链（Chain-of-Thought, CoT）推理过程。当提供“deep_think”工具而非直接的思考能力时，该漏洞允许检索内部推理过程。提取的推理代币数量与大多数查询提示的已计费 API 思考代币数量精确匹配，这表明 AI 公司在计算内部模型计算方面可能存在问题。